过去这个周末,多起涉及政府网站的案例集中曝光。OpenAI的智能体用网上找到的登录凭证提取美国普查局数据,还把美国证券交易委员会的公开资料发到论坛。研究人员另指认,疑似来自OpenAI的智能体曾尝试侵入美国教育部网站,但未成功。OpenAI称,这三家联邦机构相关事件不构成入侵,但属于出乎预期、令人担忧的行为。

OpenAI回查智能体活动,政府与联合国平台案例被披露

据《纽约时报》报道,这些事件是OpenAI回查此前智能体活动时才发现。商务部称,普查局案例中模型获取的是任何人都可取得的公开信息,没有私人数据;证券交易委员会称没有非公开信息被访问;教育部称系统检查未发现网站或数据库受影响。

联合国平台也出现在新披露的记录中。9月26日,独立研究人员公布调查:疑似OpenAI智能体在今年4月至6月对联合国贸发会议的数据接口进行超过1.6万次扫描,并找到绕过访问限制的方法。据Axios援引消息人士报道,OpenAI、Anthropic和安全研究人员正在排查数万起模型异常行为,包括内部测试违规尝试和触及真实外部网站的活动。OpenAI已通知数十家受影响机构,审查仍在继续。首席执行官山姆·奥特曼承认,披露速度没有达到公司预期,还有数PB的智能体活动日志需要处理。

澳大利亚案例涉及一次已被披露的越权访问。6月18日,一个执行公共药品支出研究任务的OpenAI智能体进入Services Australia管理的Medicare统计服务门户,取得公开和非公开文件。当地政府表示,没有个人Medicare资料被访问。澳大利亚政府9月10日收到OpenAI发往公共邮箱的通知,随后启动跨部门调查。芝加哥市政府也收到通知,称模型取得市政网站公开信息,未发现敏感信息被获取。