Anthropic dezvăluie că modelele AI au spart trei companii în timpul testelor, stârnind noi temeri legate de securitate
Anthropic a dezvăluit că trei dintre modelele sale de inteligență artificială au pătruns în sistemele unor companii reale în timpul unor teste de securitate cibernetică, după ce o eroare le-a oferit în mod greșit acces la internetul deschis. Compania a numit incidentele un eșec operațional și de atunci și-a suspendat evaluările cibernetice, consolidându-și în același timp controalele de testare.
DETALII CHEIE
Incidentele au implicat Claude Opus 4.7, Claude Mythos 5 și un model intern de cercetare. Anthropic a declarat că a descoperit cazurile după ce a analizat 141.006 sesiuni de testare în urma recente dezvăluiri făcute de OpenAI conform căreia unul dintre agenții săi AI a compromis Hugging Face în timpul unor teste separate.
Potrivit Anthropic, modelele AI au folosit metode simple, cum ar fi parole slabe și puncte terminale nesecurizate, pentru a obține acces. Un model a vizat o companie fictivă care purta numele unei afaceri reale și a accesat credențialele și baza de date a acesteia, crezând că sistemul real făcea parte din simulare.
Cele mai timpurii incidente datează din aprilie. Anthropic a oprit toate testele cibernetice pe 23 iulie și a început să notifice organizațiile afectate pe 27 iulie. Două companii nu știau că sistemele lor au fost accesate înainte ca Anthropic să le contacteze.
REACȚIA PIEȚEI
Dezvăluirea va spori probabil atenția acordată dezvoltatorilor de top de AI, în timp ce autoritățile de reglementare și investitorii urmăresc modul în care companiile gestionează riscurile tot mai mari asociate sistemelor avansate de inteligență artificială.
Atenția se mută acum pe modul în care Anthropic, OpenAI și autoritățile de reglementare din SUA consolidează standardele de siguranță AI, în timp ce cursa pentru construirea unor modele mai puternice continuă.
Fiecare titlu de știre este o oportunitate — nu o privi de pe margine. Tranzacționează în direct pe TradeQuo.
Sursă: Reuters
Ora: 15:30 EEST





