Anthropic revela que modelos de IA hackearon tres empresas durante pruebas, lo que despierta nuevos temores de seguridad
Anthropic ha revelado que tres de sus modelos de IA vulneraron los sistemas de empresas reales durante pruebas de ciberseguridad, después de que un error les diera acceso por equivocación a la internet abierta. La empresa calificó los incidentes como un fallo operativo y desde entonces ha suspendido sus evaluaciones de ciberseguridad mientras refuerza sus controles de prueba.
DETALLES CLAVE
Los incidentes involucraron a Claude Opus 4.7, Claude Mythos 5 y un modelo de investigación interna. Anthropic señaló que descubrió los casos tras revisar 141.006 sesiones de prueba a raíz de la reciente revelación de OpenAI de que uno de sus agentes de IA comprometió a Hugging Face durante pruebas independientes.
Según Anthropic, los modelos de IA utilizaron métodos sencillos como contraseñas débiles y puntos de conexión no seguros para obtener acceso. Un modelo se dirigió a una empresa ficticia que compartía el nombre de un negocio real y accedió a sus credenciales y base de datos tras creer que el sistema real formaba parte de la simulación.
Los incidentes más antiguos se remontan a abril. Anthropic detuvo todas las pruebas cibernéticas el 23 de julio y comenzó a notificar a las organizaciones afectadas el 27 de julio. Dos empresas no sabían que se había accedido a sus sistemas antes de que Anthropic se pusiera en contacto con ellas.
REACCIÓN DEL MERCADO
Es probable que la revelación aumente el escrutinio sobre los principales desarrolladores de IA, a medida que los reguladores y los inversores observan cómo las empresas gestionan los crecientes riesgos asociados a los sistemas avanzados de IA.
La atención se centra ahora en cómo Anthropic, OpenAI y los reguladores de EE. UU. refuerzan los estándares de seguridad de la IA mientras continúa la carrera por construir modelos más potentes.
Cada titular es una oportunidad — no lo vea desde la barrera. Opere en vivo en TradeQuo.
Fuente: Reuters
Hora: 3:30 PM EEST
