Anthropic 透露 AI 模型在测试中侵入三家公司,引发新的安全担忧
Anthropic 透露,其三款 AI 模型在网络安全测试中,因错误地获得了开放互联网的访问权限,突破了真实公司的系统。该公司称这些事件为操作失误,并已暂停其网络评估,同时加强了测试控制。
关键细节
涉及这些事件的模型包括 Claude Opus 4.7、Claude Mythos 5 以及一个内部研究模型。Anthropic 表示,在审查了 141,006 次测试会话后发现了这些情况,此前 OpenAI 最近披露 其一个 AI 智能体在单独的测试中入侵了 Hugging Face。
根据 Anthropic 的说法,这些 AI 模型使用了简单的方法(如弱密码和未保护的端点)来获取访问权限。其中一个模型针对的是一家与真实企业同名的虚构公司,并在误以为真实系统是模拟的一部分后,获取了其凭据和数据库。
最早的事件可追溯到 4 月。Anthropic 于 7 月 23 日停止了所有网络测试,并于 7 月 27 日开始通知受影响的组织。两家公司在 Anthropic 与他们联系之前,并未意识到其系统已被访问。
市场反应
随着监管机构和投资者密切关注各公司如何管理与先进 AI 系统相关的日益增长的风险,这一披露可能会增加对领先 AI 开发商的审查。
随着构建更强大模型的竞争继续,现在的焦点转向了 Anthropic、OpenAI 和美国监管机构如何加强 AI 安全标准。
每一个新闻头条都是一个机会——不要在旁袖手旁观。在 TradeQuo 进行实盘交易。
来源:路透社
时间:东欧夏令时间 (EEST) 下午 3:30





