AIの「テスト」が再び本物のハッキングに

Anthropic、テスト中にAIモデルが3企業をハッキングしたと発表、セキュリティへの懸念が再燃

Anthropicは、サイバーセキュリティのテスト中にエラーによって誤ってオープンインターネットへのアクセスを許可した結果、3つのAIモデルが実在する企業のシステムに侵入したことを明らかにしました。同社はこれらの出来事を運用上の失敗と呼び、その後サイバー評価を停止し、テスト管理を強化しています。

主な詳細

今回の事件には、Claude Opus 4.7、Claude Mythos 5、および内部の研究モデルが関与していました。Anthropicは、OpenAIによる最近の開示（別個のテスト中にあるAIエージェントがHugging Faceを侵害したという発表）を受けて、141,006回のテストセッションを見直した結果、これらの事例を発見したと述べました。

Anthropicによると、AIモデルは弱いパスワードや保護されていないエンドポイントといった単純な手法を用いてアクセスを獲得しました。あるモデルは、シミュレーションの一部であると誤認し、実在する企業と同じ名前を持つ架空の会社をターゲットにして、その資格情報やデータベースにアクセスしました。

最も早いインシデントは4月に遡ります。Anthropicは7月23日にすべてのサイバーテストを中止し、7月27日に影響を受けた組織への通知を開始しました。2つの企業は、Anthropicから連絡を受けるまで自社のシステムにアクセスされたことに気づいていませんでした。

市場の反応

規制当局や投資家が高度なAIシステムに伴う増大するリスクを企業がどのように管理しているかを注視する中、今回の開示により、主要なAI開発者に対する監視がさらに強まる可能性が高いです。

今後の注目は、より強力なモデルを構築する競争が続く中で、Anthropic、OpenAI、そして米国の規制当局がどのようにAI安全基準を強化していくかに移っています。

すべてのヘッドラインはチャンスです。傍観者で終わらせず、TradeQuoでリアルタイムに取引しましょう。

情報源: ロイター

時間: 午後3:30（東部ヨーロッパ夏時間）