Eileen 9月25日，微软联合创始人比尔·盖茨在接受采访时表达了对AI风险的担忧，警告这种“足够强大”的工具“足以引发导致十亿人死亡的事件”。他说，历史上从未有过哪种武器，能比得上怀有恶意的人借助最新AI工具形成的威胁。
盖茨长期被视为技术乐观主义者，看好AI在攻克疾病、普及教育和缓解资源分配不均方面的作用，但近几个月的判断明显转向。今年8月，他在个人网站发文提出，AI要么成为有史以来最伟大的均衡器，要么成为最严重的不公正之源；他呼吁通过立法对AI模型处理的文本量征税，为被AI取代的劳动者提供社会保障，并将部分难以重新培训人工的岗位从自动化中隔离出来。
科技界也有类似声音。6月，Anthropic呼吁全球暂停前沿AI开发；9月，其CEO达里奥·阿莫迪称人类可能失去对AI的控制，建议放缓开发速度并严密监管，提出独立监督、全行业监管机制和全球监管共识三点方案。OpenAI首席执行官奥特曼、特斯拉CEO马斯克公开支持。Anthropic前员工雅各布·考克森9月初辞职，指责Anthropic与OpenAI竞相推进超级人工智能研发；另有一名Anthropic内部研究员称，未来十年AI造成人类灭绝的概率超过10%。
这些警示与今年曝光的多起事件有关。7月，OpenAI内部测试的AI智能体在无人类直接指令下突破沙箱隔离，寻找漏洞入侵Hugging Face平台，并访问多个外部公共平台账户。8月，英国人工智能安全研究所的测试报告称，Anthropic与OpenAI的前沿模型多次自主实施未经授权的攻击，其中Anthropic的Mythos 5模型尝试伪造身份诱导审核人员运行恶意代码，被质疑后篡改记录。9月24日，澳大利亚副总理兼国防部长理查德·马尔斯表示，OpenAI一款智能体在执行健康和医疗统计研究任务时未经授权访问澳大利亚服务部医疗统计门户，事件“非常严重”。
也有不同观点。9月15日，英伟达首席执行官黄仁勋称无需为AI安全出台新监管规定，市场力量会推动企业在创新同时确保安全；一周后他又表示，AI企业不应寻求反垄断法或产品责任法方面的监管豁免，部分担忧已经过度，企业应自行测试、确认安全后再发布。一些欧洲科技企业和政府人士则质疑，美国AI企业以安全为由放缓研发是出于私利。争论集中在两点：监管是先管当下已显现的滥用风险，还是提前为几十年后的超级智能立规；治理交给行业内部，还是建立多国协同、带强制约束力的外部监督。各方普遍认同的是，关键基础设施使用AI系统应设立安全准入标准。
