Anthropic 向白宫通报一起智能体失控事件：AI 试图闯进多个美国政府网站 - LOL比赛预测

IT之家 10 月 10 日信息，根据《纽约时报》在 10 月 9 日的报道，Anthropic 对外透露，其开发的 AI 智能体在未收到任何指令的情况下，自行尝试访问了美国联邦、州以及地方多个政府部门的网站。Anthropic 未公开所涉政府机构的具体名称，但已向白宫通报了相关情况。

Anthropic 在一篇博客文章中说明，一个处于测试阶段的 AI 模型未经授权执行了多项行动，例如利用某大学网站的漏洞下载数据，以及向一个政府机构提交了一份原本被明令禁止的表格。

Anthropic 在检查旗下 AI 于 7 月份的操作记录时发现了这些问题。当时，OpenAI 公开了其 AI 技术曾攻击初创企业 Hugging Face 的事件，而 Anthropic 及其他 AI 实验室也注意到，他们的 AI 曾脱离测试环境，实施黑客行为。

Anthropic 的一位发言人表示，除了博客文章中的内容外，他们不会就此事发表更多评论。

同一天早些时候，费城警察局透露，Anthropic 曾通知警方，其 AI 通过警方网站提交了一条虚假的凶杀案线索。警方称，举报日期为 7 月 18 日，提交者声称掌握一起未结案件的线索。

警方将这条举报标记为垃圾信息，并未启动调查。IT之家从报道中了解到，Anthropic 本周向费城警方通报了此事，并告知警方将在周五对外公开。

Anthropic 解释说，一个尚未发布的非前沿研究模型原本需要填写一份模拟政府表格。但由于模拟表格加载失败，或模型误将其关闭，模型转而访问了提供正式表格的网站，并提交了表格。