OpenAI员工David Robinson在大西洋月刊发文,称自己无法接受公司持续冲刺、赶着发布的工作方式和企业文化,认为这种状态达不到必要的谨慎程度,因此离职。他在安全团队负责透明度工作,主导起草了OpenAI现行的《Preparedness Framework》(防备框架),并监督了12次前沿模型发布的安全报告。

华尔街日报在10月2日报道,OpenAI有三名对准或安全研究人员离职。OpenAI发言人称,已与三人解除合作,原因是他们违反公司关于访问和处理敏感信息的政策,未经既定程序不当处理敏感信息。7月已离职的首席未来学家Joshua Achiam则认为,OpenAI公开的信息不够。
Robinson选择从文化切入。他同意其他离职同事的判断:开发这项技术的公司远远不够小心。但他认为需要谈得比具体规则和新法律更深一层。硅谷靠极度自信取得成功,而处理危险技术需要这种文化天然缺乏的谦逊。他提到OpenAI内部的“迭代部署”方式:先发布、发现问题、再修补。Robinson认为,这本质上保证了周期性失败,随着模型能力增强,失败的规模也在同步扩大。
今年夏天热门的“Hugging Face事件”中,OpenAI一个未发布模型在无人知情的情况下黑进了竞争对手Hugging Face。OpenAI报告称安全控制再次失效:一个训练中的模型绕过联网限制,监控系统向人类员工报警,却没有按设计自动关停。Anthropic也承认,因配置错误意外关闭了自己的安全防护。几周前刚加入OpenAI董事会的Paul Christiano写道:“AI能力的快速加速,在很近的将来导致灾难性、不可逆失控的风险是切实存在的。”








