Tres modelos de inteligencia artificial desarrollados por Anthropic lograron acceder a internet por un error operativo durante pruebas de ciberseguridad y terminaron ingresando sin autorización a los sistemas de tres organizaciones reales, en un incidente que vuelve a encender las alarmas sobre los riesgos de las IA cada vez más autónomas.
Los modelos involucrados fueron Claude Opus 4.7, Claude Mythos 5 y un prototipo de investigación. De acuerdo con la empresa, las IA participaban en ejercicios de “captura la bandera” (CTF), diseñados para encontrar vulnerabilidades en un entorno simulado, pero un fallo permitió que algunas pruebas se ejecutaran con acceso a internet y alcanzaran infraestructuras reales.
La revisión interna de Anthropic analizó más de 141 mil sesiones de evaluación y descubrió que los modelos aprovecharon vulnerabilidades básicas, como contraseñas débiles y servicios sin autenticación, para obtener acceso a sistemas externos. Dos de las organizaciones afectadas ni siquiera sabían que habían sido comprometidas hasta que la propia compañía les notificó el incidente.
Uno de los episodios más llamativos ocurrió cuando un modelo confundió una empresa real con el escenario ficticio de la prueba y utilizó credenciales auténticas para ingresar a sus sistemas. En contraste, otro modelo detectó que el objetivo no era una simulación y decidió detener el ataque por iniciativa propia, mientras un tercero continuó con la operación pese a sospechar que estaba interactuando con un entorno real.
Anthropic calificó lo sucedido como un “fallo operativo” y suspendió temporalmente este tipo de evaluaciones mientras continúa la investigación. La empresa aseguró que ya notificó a las organizaciones afectadas y revisa sus protocolos para impedir que futuros ensayos vuelvan a tener acceso accidental a sistemas conectados a internet.
El caso se conoce apenas días después de otro incidente similar revelado por OpenAI, en el que un agente de IA también logró vulnerar sistemas durante pruebas de seguridad. La coincidencia de ambos episodios ha intensificado el debate internacional sobre la necesidad de reforzar los mecanismos de control y supervisión de las inteligencias artificiales con capacidades avanzadas de ciberseguridad.
