Anthropic Tiết Lộ Các Mô Hình AI Đã Tấn Công Ba Công Ty Trong Quá Trình Thử Nghiệm, Dấy Lên Lo Ngại Mới Về Bảo Mật
Anthropic đã tiết lộ rằng ba mô hình AI của họ đã xâm nhập vào hệ thống của các công ty thực tế trong quá trình thử nghiệm an ninh mạng sau khi một lỗi vô tình cấp cho chúng quyền truy cập vào mạng internet mở. Công ty gọi các sự cố này là một thất bại trong vận hành và kể từ đó đã đình chỉ các đánh giá mạng của mình trong khi tăng cường các biện pháp kiểm soát thử nghiệm.
CHI TIẾT CHÍNH
Các sự cố liên quan đến Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu nội bộ. Anthropic cho biết họ đã phát hiện ra các trường hợp này sau khi xem xét 141.006 phiên thử nghiệm sau tiết lộ gần đây của OpenAI rằng một trong các tác nhân AI của họ đã xâm nhập Hugging Face trong một cuộc thử nghiệm riêng biệt.
Theo Anthropic, các mô hình AI đã sử dụng các phương pháp đơn giản như mật khẩu yếu và các điểm cuối không an toàn để giành quyền truy cập. Một mô hình đã nhắm mục tiêu vào một công ty hư cấu có trùng tên với một doanh nghiệp ngoài đời thực và đã truy cập vào thông tin đăng nhập cũng như cơ sở dữ liệu của doanh nghiệp đó sau khi tin rằng hệ thống thực tế là một phần của quá trình mô phỏng.
Các sự cố sớm nhất có từ tháng Tư. Anthropic đã dừng tất cả các hoạt động thử nghiệm mạng vào ngày 23 tháng 7 và bắt đầu thông báo cho các tổ chức bị ảnh hưởng vào ngày 27 tháng 7. Hai công ty đã không hề biết hệ thống của họ bị truy cập trước khi Anthropic liên hệ với họ.
PHẢN ỨNG CỦA THỊ TRƯỜNG
Tiết lộ này có khả năng làm tăng sự giám sát đối với các nhà phát triển AI hàng đầu khi các cơ quan quản lý và nhà đầu tư theo dõi cách các công ty quản lý các rủi ro ngày càng tăng liên quan đến các hệ thống AI tiên tiến.
Sự chú ý hiện đổ dồn vào cách Anthropic, OpenAI và các cơ quan quản lý của Hoa Kỳ tăng cường các tiêu chuẩn an toàn AI trong khi cuộc đua xây dựng các mô hình mạnh mẽ hơn vẫn tiếp tục.
Mỗi dòng tít đều là một cơ hội — đừng đứng ngoài cuộc quan sát. Hãy giao dịch trực tiếp trên TradeQuo.
Nguồn: Reuters
Thời gian: 3:30 CH EEST
