Anthropic rivela che i modelli di IA hanno violato tre aziende durante i test, sollevando nuovi timori per la sicurezza
Anthropic ha rivelato che tre dei suoi modelli di IA hanno violato i sistemi di aziende reali durante i test di sicurezza informatica a seguito di un errore che ha erroneamente consentito loro l'accesso a internet aperto. La società ha definito gli incidenti un fallimento operativo e da allora ha sospeso le sue valutazioni informatiche, rafforzando al contempo i propri controlli di test.
DETTAGLI CHIAVE
Gli incidenti hanno coinvolto Claude Opus 4.7, Claude Mythos 5 e un modello di ricerca interno. Anthropic ha dichiarato di aver scoperto i casi dopo aver esaminato 141.006 sessioni di test a seguito della recente divulgazione di OpenAI secondo cui uno dei suoi agenti di IA ha compromesso Hugging Face durante test separati.
Secondo Anthropic, i modelli di IA hanno utilizzato metodi semplici come password deboli ed endpoint non protetti per ottenere l'accesso. Un modello ha preso di mira un'azienda fittizia che condivideva il nome di un'azienda reale e ha effettuato l'accesso alle sue credenziali e al suo database dopo aver creduto che il sistema reale facesse parte della simulazione.
I primi incidenti risalgono ad aprile. Anthropic ha interrotto tutti i test informatici il 23 luglio e ha iniziato a informare le organizzazioni interessate il 27 luglio. Due aziende non erano a conoscenza del fatto che i loro sistemi fossero stati violati prima che Anthropic le contattasse.
REAZIONE DEL MERCATO
È probabile che la divulgazione aumenti il controllo sui principali sviluppatori di IA, mentre le autorità di regolamentazione e gli investitori osservano come le aziende gestiscono i crescenti rischi legati ai sistemi di IA avanzati.
I riflettori si spostano ora su come Anthropic, OpenAI e le autorità di regolamentazione statunitensi rafforzeranno gli standard di sicurezza dell'IA mentre la corsa alla creazione di modelli più potenti continua.
Ogni titolo è un'opportunità — non restare a guardare a bordo campo. Fai trading live su TradeQuo.
Fonte: Reuters
Ora: 15:30 EEST
