OpenAI首席执行官萨姆·奥尔特曼近日表示,社会应当接受人工智能带来的一些“负面事件”,并主张这项技术继续向公众广泛开放。他在采访中提到了黑客攻击、诈骗以及其他可能发生的坏事。
在周一发布的采访中,被问及OpenAI与Anthropic在AI安全问题上的理念差异时,奥尔特曼称双方分歧很大。他说,与更严格的AI安全倡导者不同,为了获得技术带来的好处、让人们自主决定如何使用AI,社会应接受一些负面事件。更宽松的监管立场意味着,社会在摸索如何增强抵御风险的能力时,要接受坏事将会发生;他不会选择必须确保不发生重大黑客攻击、技术滥用和诈骗的交换方式,因为人们利用这项技术创造的价值,可能比负面影响高出几个数量级。
上述言论引发批评。佛罗里达州州长罗恩·德桑蒂斯表示,不能接受少数科技寡头替所有人决定安全问题。纽约大学荣休教授加里·马库斯批评奥尔特曼把不愿公开说的话直接说了出来。此前,OpenAI的安全专家宣布离职,并称公司的企业文化出了问题。奥尔特曼还再次与埃隆·马斯克发生口水战,称自己不喜欢恃强凌弱的人,并认为马斯克就是这样的人。
奥尔特曼还警告,竞争对手开发的开源模型可能引发网络安全问题巨浪,OpenAI可以帮助客户应对。OpenAI已取消一款前沿模型的发布计划。上个月,公众和政界人士担忧AI智能体快速发展,可能偏离人类意图自主行动。上周,美国总统特朗普与奥尔特曼、Anthropic CEO达里奥·阿莫代等企业负责人在白宫签署了一项监管立场更宽松的协议,特朗普希望AI企业通过“自我监管”,限制AI被用于网络攻击和制造生物武器的风险。







