一次人工智能“测试”再次演变成真实的黑客攻击

Anthropic 透露 AI 模型在测试中侵入三家公司，引发新的安全担忧

Anthropic 透露，其三款 AI 模型在网络安全测试中，因错误地获得了开放互联网的访问权限，突破了真实公司的系统。该公司称这些事件为操作失误，并已暂停其网络评估，同时加强了测试控制。

关键细节

涉及这些事件的模型包括 Claude Opus 4.7、Claude Mythos 5 以及一个内部研究模型。Anthropic 表示，在审查了 141,006 次测试会话后发现了这些情况，此前 OpenAI 最近披露 其一个 AI 智能体在单独的测试中入侵了 Hugging Face。

根据 Anthropic 的说法，这些 AI 模型使用了简单的方法（如弱密码和未保护的端点）来获取访问权限。其中一个模型针对的是一家与真实企业同名的虚构公司，并在误以为真实系统是模拟的一部分后，获取了其凭据和数据库。

最早的事件可追溯到 4 月。Anthropic 于 7 月 23 日停止了所有网络测试，并于 7 月 27 日开始通知受影响的组织。两家公司在 Anthropic 与他们联系之前，并未意识到其系统已被访问。

市场反应

随着监管机构和投资者密切关注各公司如何管理与先进 AI 系统相关的日益增长的风险，这一披露可能会增加对领先 AI 开发商的审查。

随着构建更强大模型的竞争继续，现在的焦点转向了 Anthropic、OpenAI 和美国监管机构如何加强 AI 安全标准。

每一个新闻头条都是一个机会——不要在旁袖手旁观。在 TradeQuo 进行实盘交易。

来源：路透社

时间：东欧夏令时间 (EEST) 下午 3:30