首页 > 实用技巧 > 干货教程 > OpenAI首席技术官:没将产品优先程度置于安全之前,超级对齐团队解散不影响

OpenAI首席技术官:没将产品优先程度置于安全之前,超级对齐团队解散不影响

发布时间:2024-07-15 12:37:15来源: 13253963632

“我们看到了科学将引领我们走向何方,所以也理解人们对现在即将发生的事感到恐惧和焦虑。”

近日,OpenAI首席技术官米拉·穆拉蒂(Mira Murati)在一次访谈中再次谈起AI(人工智能)安全,并对“超级对齐”安全团队解散、ChatGPT斯嘉丽语音风波、公司面临监管审查等问题作出回应。

穆拉蒂表示,过去几年取得了难以置信的技术进步,超出了所有人的预料。随着继续这一进步,人们对现在即将发生的事感到恐惧和焦虑也可以理解。她认为OpenAI有着非常出色的安全团队,安全地部署了能力最强的模型,“考虑到技术以及OpenAI的进步速度,在安全性、模型的训练和部署风险等方面加倍努力是非常重要的”。

OpenAI首席技术官米拉·穆拉蒂

一个多月前,OpenAI联合创始人、首席科学家伊尔亚·苏茨克韦(Ilya Sutskever)、超级对齐团队负责人杨·莱克(Jan Leike)在内的多位核心成员相继离开,作为核心安全团队的超级对齐也随之解散。消息人士透露,注重AI系统安全的员工已经对奥特曼的领导失去信心。莱克在宣布离职后还在X(推特)发帖怒斥OpenAI及领导层“重视光鲜的产品,安全文化和流程不再受到重视”。

对此,穆拉蒂在9日回应称:“超级对齐是OpenAI非常重要的安全团队,但只是团队之一,公司有很多人负责安全工作。”她表示并不认同“公司把产品放在安全之前”这一观点,并称这一论调有点过于愤世嫉俗。

她表示,很多人认为安全和能力是分开的,一定要一方优于另一方,而“安全应该从项目开始就与能力一同考虑,而不是事后追加”。在航天、汽车这些有着成熟安全思维和系统的行业,人们不一定会一直围着桌子争论什么是安全,但他们也一直在做这件事情。她认为整个行业也应该向成熟的安全纪律方向发展,不仅仅是操作纪律,也包含产品和部署安全,考虑偏见、虚假信息等因素。同时,她表示,OpenAI也一直在考虑模型的长期对齐,不仅仅是当下。

穆拉蒂也对ChatGPT的Sky语音与好莱坞知名影星“寡姐”斯嘉丽·约翰逊高度相似的问题进行了回应。她表示,当时与OpenAI CEO山姆·奥特曼(Sam Altman)分别去找了Sky的配音者和斯嘉丽,但两人并未协调一致,才不幸导致了后续的局面发生。

彼时,斯嘉丽发布了声明并向OpenAI发送律师函,要求说明Sky确切的创造过程。约翰逊在声明中表示,去年9月,奥特曼找到她,询问她是否愿意为ChatGPT配音,去安慰用户,弥合AI与人类之间巨大的差异所带来的不适感。斯嘉丽称当时拒绝了这一提议,而在ChatGPT-4演示版发布前两天,奥特曼再次联系了斯嘉丽的经纪人,要求重新考虑。斯嘉丽强调,“在我们接触之前,系统声音就已经存在了”。随后OpenAI宣布暂停使用Sky语音,表示对斯嘉丽·约翰逊的尊重。

至于此次事件是否会影响科技或是科技公司的形象,穆拉蒂表示,能做的就是把事情做好,让人们看到发生了什么,通过这种方式建立信任,除此之外并没有什么神奇的办法。

对科技担忧的,不仅仅是普通使用者,全球越来越多的监管机构也开始密切关注。

6月初,据外媒报道,美国联邦政府的两家监管机构已达成协议,联邦贸易委员会(FTC)将带头审查OpenAI,并针对微软向OpenAI进行投资、以及与其他AI公司达成协议的行为进行调查。6月末,又有报道称,欧盟正在加大对AI行业的审查力度,包括重新调查微软与OpenAI的合作以及投资关系。

对此,穆拉蒂表示:“有审查很好,我们正在建设一些难以置信的非常强大的东西,我们非常努力让它们变得更好,但也存在风险,人们应该更深入地参与并了解这项技术是什么,并理解对于各个领域意味着什么,如何更有效更安全地去部署……微软一直是与我们非常一致的重要合作伙伴,我们紧密合作去打造最强超级计算机,这也是AI模型的核心所在。”

不过,就在当地时间7月10日,据外媒报道,微软已经放弃在OpenAI董事会的观察员席位,而此前传言称有望获得相同席位的苹果也不会加入OpenAI董事会。OpenAI的一位发言人表示,在微软退出后,公司将不再有董事会观察员。微软、苹果接连放弃观察员席位,外界认为,或是出于对可能会被反垄断监管机构盯上的担忧。

干货教程更多>>

包赔合同协议!“优为文化传媒”平台被骗了坑惨网友!大家不要相信 睡不着觉!“嘉林创APP”被骗不能出金!背后真相令人毛骨悚然!! 抖友打榜!“悦拜APP”被骗该如何自救!请远离騙局 真是騙局吗?《狒狒娱乐》软件被骗经历亲诉真相揭秘!我该怎么办?! 操作猛如虎!《华文映象娱乐传媒》做任务被骗不能提现全是套路 数据清空!“纪源资本”不要操作,第一视角带你走进被骗过程 点赞排位助力!“仁跃科技”怎么样?亏损是老师策划的!别被蒙在鼓里!!,被骗后续! 包赔合同协议!“乾天乳胶科技”被骗不是真的!入套后一轮转一轮 别轻信!《玖月玖文化传媒》被骗的局你了解吗?傻傻还不醒悟?! 事发湖南!《夜都APP》数据修复不能提现!被骗真相揭露 还能找回吗?《夜都APP》不正规!套路连连?平台操作错误是陷阱!! 幻梦助力!“天创资本”被骗大曝光!血泪事迹令人惊心!!,驳回交易! 做错要赔钱吗?《喜鹊传媒app》正规吗?无法出金真相怒不可!怎么处理! 好吓人!《喜鹊传媒》怎么样?亏损是老师策划的!别被蒙在鼓里!! 兼职怎么样?《优为文化传媒》被骗不能出金!背后真相令人毛骨悚然!! 层层套路!“西东音乐”被骗无法出金!真相惊天秘密揭晓,一眼看透!,千万不能信! 正规可靠吗?《无限触达文化传媒》被骗提不了现!不靠谱不可信有希望挽回!! 助力种草!“THB”不能提现不正规,被骗真相已曝光,无偿分享!,证据确凿! 是正规公司吗?《喜鹊传媒app》是騙局吗?无法提现,揭开背后被骗真相震惊!! 蜂拥而至!《北京伊人网络》网络“交友”被骗经历:不要尝试都是套路! 是陷阱吗?《华融数据》软件平台操作贪小便宜吃大亏贪吃馅饼掉陷阱! 是不是正规公司!《优为文化传媒》真相令人惊掉下巴!被骗不能出金! 邀请码!“灰度传媒”亏损被骗无法出金提现!事实真相揭晓!! 超绝变脸!《优为文化传媒》请立即止损!操作不能提现! 正规可靠吗?《增量数据》被骗不可信不靠谱 背后真相令人震惊 假平台!“乾天乳胶科技”不要操作,第一视角带你走进被骗过程,做数据单! 顶风作案!“JMTOA”亏损被骗无法出金提现!事实真相揭晓!! 骗人局!《前海数据》不正规!亏损受骗!亏损真实原因令人发指 是陷阱吗?《一兆韦德》不靠谱不可信!网约受骗不能提现真相!! 文化传播!“大象数据”无法出金提现!被骗真相原来如此,同城佳缘!