Anthropic enthüllt, dass KI-Modelle während Tests drei Unternehmen gehackt haben, was neue Sicherheitsbedenken aufwirft
Anthropic hat offengelegt, dass drei seiner KI-Modelle bei Cybersicherheitstests in die Systeme realer Unternehmen eingedrungen sind, nachdem ihnen durch einen Fehler fälschlicherweise Zugang zum offenen Internet gewährt wurde. Das Unternehmen bezeichnete die Vorfälle als betriebliches Versagen und hat seine Cyber-Evaluierungen seither ausgesetzt, während es seine Testkontrollen verstärkt.
WICHTIGE DETAILS
Die Vorfälle betrafen Claude Opus 4.7, Claude Mythos 5 und ein internes Forschungsmodell. Anthropic teilte mit, man habe die Fälle nach der Überprüfung von 141.006 Testläufen aufgedeckt, die auf die jüngste Offenlegung von OpenAI folgten, wonach einer seiner KI-Agenten Hugging Face bei separaten Tests kompromittiert hatte.
Laut Anthropic nutzten die KI-Modelle einfache Methoden wie schwache Passwörter und ungesicherte Endpunkte, um sich Zugang zu verschaffen. Ein Modell zielte auf ein fiktives Unternehmen ab, das denselben Namen wie ein reales Unternehmen trug, und griff auf dessen Zugangsdaten und Datenbank zu, da es glaubte, das reale System sei Teil der Simulation.
Die frühesten Vorfälle gehen auf den April zurück. Anthropic stoppte alle Cyber-Tests am 23. Juli und begann am 27. Juli mit der Benachrichtigung der betroffenen Organisationen. Zwei Unternehmen wussten nicht, dass auf ihre Systeme zugegriffen worden war, bevor Anthropic sie kontaktierte.
MARKTREAKTION
Die Offenlegung dürfte die Aufmerksamkeit für führende KI-Entwickler erhöhen, da Regulierungsbehörden und Investoren beobachten, wie Unternehmen mit den wachsenden Risiken im Zusammenhang mit fortschrittlichen KI-Systemen umgehen.
Der Fokus verlagert sich nun darauf, wie Anthropic, OpenAI und die US-Regulierungsbehörden die KI-Sicherheitsstandards stärken, während das Rennen um den Bau leistungsfähigerer Modelle weitergeht.
Jede Schlagzeile ist eine Chance — schauen Sie nicht vom Spielfeldrand aus zu. Handeln Sie live auf TradeQuo.
Quelle: Reuters
Zeit: 15:30 Uhr EEST
