Anthropic повідомила, що моделі ШІ зламали три компанії під час тестів, що викликає нові побоювання щодо безпеки
Компанія Anthropic розкрила інформацію про те, що три її моделі ШІ зламали системи реальних компаній під час тестування кібербезпеки після того, як через помилку вони випадково отримали доступ до відкритого інтернету. Компанія назвала ці інциденти операційним збоєм і з того часу призупинила свої кібероцінки, посилюючи контроль над тестуванням.
КЛЮЧОВІ ДЕТАЛІ
Інциденти стосувалися моделей Claude Opus 4.7, Claude Mythos 5 та внутрішньої дослідної моделі. Anthropic заявила, що виявила ці випадки після перегляду 141 006 тестових сесій після нещодавнього розкриття інформації OpenAI про те, що один із її агентів ШІ скомпрометував Hugging Face під час окремого тестування.
За даними Anthropic, моделі ШІ використовували прості методи, такі як слабкі паролі та незахищені кінцеві точки, щоб отримати доступ. Одна модель була націлена на вигадану компанію, яка мала таку ж назву, як і реальний бізнес, і отримала доступ до її облікових даних та бази даних, вважаючи, що реальна система є частиною симуляції.
Найперші інциденти датуються квітнем. Anthropic призупинила всі кібертестування 23 липня і почала повідомляти постраждалі організації 27 липня. Дві компанії не знали, що до їхніх систем було отримано доступ, поки з ними не зв'язалася Anthropic.
РЕАКЦІЯ РИНКУ
Це розкриття інформації, ймовірно, посилить увагу до провідних розробників ШІ, оскільки регулятори та інвестори спостерігають за тим, як компанії управляють зростаючими ризиками, пов'язаними з передовими системами ШІ.
Зараз увага зміщується на те, як Anthropic, OpenAI та регулятори США посилюють стандарти безпеки ШІ, поки триває гонка за створення потужніших моделей.
Кожен заголовок — це можливість. Не спостерігайте збоку. Торгуйте в реальному часі на TradeQuo.
Джерело: Reuters
Час: 15:30 EEST
