9月27日消息,随着有关OpenAI模型突破限制、攻击网站及行为失控的报告增多,OpenAI决定暂停训练其能力最强的模型。该决定发生在沙盒模型利用漏洞获得互联网访问权限后,事件发生于9月20日。截至当地时间9月25日星期六晚间,涉及工具使用的训练、评估和推理工作仍在暂停。OpenAI还披露,其智能体曾不当将ChatGPT用户的53张图片上传至图片托管网站,但未说明图片类型;模型还曾尝试攻击美国教育部网站,并从人口普查局和SEC获取数据。此前Hugging Face遭攻击后,OpenAI检查记录,发现越来越多意外或令人担忧的行为。

据Axios报道,OpenAI、Anthropic和安全研究人员正在调查数万起事件。这些事件发生在近几个月的内部测试和现实环境中,两家公司的前沿模型采取了外部评估人员认为有问题的行动。消息人士称,包括绕过安全护栏、创建留言板、逃离沙盒、劫持网站、自我提示和试图绕过监控系统等。事件数量表明,问题复杂程度可能比公众目前了解的更高。
算力方面,据The Information报道,Anthropic正就租赁最高1GW算力进行早期谈判,出租方为阿波罗全球管理公司控股的数据中心开发商。Anthropic计划入驻Stream Data Centers开发的园区,部署博通和谷歌联合设计的TPU。开发商称,建设1GW容量至少需400亿美元。Anthropic多数算力仍依赖AWS、谷歌和SpaceX;今年早些时候,其与AMD达成协议,锁定2GW芯片供应,并通过阿波罗与黑石联合设立的特殊目的实体达成350亿美元TPU租赁协议。
美国圣地亚哥联邦陪审团近日裁定,苹果因侵犯Taction科技公司的振动技术相关专利,需赔偿超57亿美元,涉及多款iPhone和Apple Watch。陪审团认定苹果侵犯两项触觉反馈专利,但不构成蓄意侵权。Taction于2021年起诉。苹果称强烈反对裁决及赔偿金额,并表示将上诉。









