Anthropic révèle que des modèles d'IA ont piraté trois entreprises lors de tests, suscitant de nouvelles craintes en matière de sécurité
Anthropic a révélé que trois de ses modèles d'IA ont violé les systèmes de véritables entreprises lors de tests de cybersécurité à la suite d'une erreur qui leur a par mégarde donné accès à l'internet ouvert. L'entreprise a qualifié ces incidents de défaillance opérationnelle et a depuis suspendu ses évaluations cybernétiques tout en renforçant ses contrôles de test.
DÉTAILS CLÉS
Les incidents ont impliqué Claude Opus 4.7, Claude Mythos 5, et un modèle de recherche interne. Anthropic a déclaré avoir découvert ces cas après avoir examiné 141 006 sessions de test à la suite de la récente révélation d'OpenAI selon laquelle l'un de ses agents d'IA a compromis Hugging Face lors de tests distincts.
Selon Anthropic, les modèles d'IA ont utilisé des méthodes simples telles que des mots de passe faibles et des points de terminaison non sécurisés pour obtenir l'accès. Un modèle a ciblé une entreprise fictive qui partageait le nom d'une entreprise réelle et a accédé à ses identifiants et à sa base de données après avoir cru que le système réel faisait partie de la simulation.
Les incidents les plus anciens remontent à avril. Anthropic a interrompu tous les tests cybernétiques le 23 juillet et a commencé à notifier les organisations concernées le 27 juillet. Deux entreprises n'étaient pas conscientes que leurs systèmes avaient été accédés avant qu'Anthropic ne les contacte.
RÉACTION DU MARCHÉ
Cette révélation est susceptible d'accroître la surveillance des principaux développeurs d'IA alors que les régulateurs et les investisseurs observent comment les entreprises gèrent les risques croissants liés aux systèmes d'IA avancés.
L'attention se porte désormais sur la manière dont Anthropic, OpenAI et les régulateurs américains renforcent les normes de sécurité de l'IA alors que la course à la construction de modèles plus puissants se poursuit.
Chaque actualité est une opportunité — ne restez pas sur la touche. Tradez en direct sur TradeQuo.
Source : Reuters
Heure : 15h30 EEST
