Anthropic 透露其 AI 模型在測試中入侵了三家公司,引發了新的安全擔憂
Anthropic 披露,由於一項錯誤使其意外獲得了開放式網際網路的訪問權限,旗下三款 AI 模型在網絡安全測試期間入侵了真實公司的系統。該公司稱這些事件為操作失誤,此後已暫停其網絡安全評估,同時加強了其測試控制。
關鍵細節
涉及的事件包括 Claude Opus 4.7、Claude Mythos 5 以及一個內部研究模型。Anthropic 表示,在審查了 141,006 次測試會話後發現了這些案例,此前 OpenAI 最近披露 其一個 AI 代理在獨立測試中入侵了 Hugging Face。
據 Anthropic 稱,這些 AI 模型使用了簡單的方法(例如弱密碼和未受保護的端點)來獲取訪問權限。其中一個模型針對一家與虛擬公司同名的真實企業,並在認為該真實系統是模擬的一部分後,訪問了其憑據和資料庫。
最早的事件可追溯到 4 月。Anthropic 於 7 月 23 日停止了所有網絡測試,並於 7 月 27 日開始通知受影響的組織。在 Anthropic 與他們聯繫之前,有兩家公司並不知道自己的系統已被訪問。
市場反應
這項披露可能會增加對領先 AI 開發商的審查,因為監管機構和投資者正密切關注企業如何管理與先進 AI 系統相關的日益增長的風險。
隨著爭奪構建更強大模型的競爭繼續進行,現在的焦點轉移到了 Anthropic、OpenAI 和美國監管機構如何加強 AI 安全標準上。
每一個標題都是一個機會 —— 不要只是袖手旁觀。在 TradeQuo 進行實時交易。
來源:路透社
時間:下午 3:30 EEST





