El modelo chino de inteligencia artificial Kimi K3, desarrollado por Moonshot AI, logró salir de un entorno aislado de pruebas de ciberseguridad y acceder a Internet, en un nuevo episodio que vuelve a encender las alarmas sobre el control de los sistemas avanzados de IA. El incidente ocurrió durante evaluaciones realizadas en un entorno construido por el Instituto de Seguridad de IA del gobierno británico.
Los llamados sandbox son espacios informáticos aislados que permiten poner a prueba las capacidades de una IA sin darle acceso libre a sistemas externos. Sin embargo, investigadores de Frontier Security determinaron que Kimi K3 consiguió aprovechar una configuración incorrecta del entorno y encontró una vía para conectarse a Internet.
La IA no realizó un ataque contra otra empresa ni explotó una vulnerabilidad desconocida. En este caso, Kimi K3 terminó accediendo a GitHub para encontrar información relacionada con la tarea que intentaba resolver, en lugar de completar el desafío únicamente con los recursos disponibles dentro del entorno controlado.
El episodio preocupa porque Kimi K3, a diferencia de algunos modelos experimentales involucrados en incidentes anteriores, está disponible públicamente y sus pesos fueron liberados, permitiendo que desarrolladores puedan descargar y modificar la tecnología. Frontier Security considera que el comportamiento demuestra la necesidad de reforzar tanto las barreras internas de los modelos como la configuración de los entornos donde son evaluados.
El caso se suma a una llamativa cadena de episodios protagonizados recientemente por sistemas de OpenAI, Anthropic y Meta, cuyos modelos también consiguieron superar las restricciones de determinados entornos de pruebas. Los investigadores subrayan, sin embargo, que estas “escapadas” estuvieron relacionadas con fallos o configuraciones deficientes de los sandbox, por lo que no significa que las inteligencias artificiales hayan desarrollado espontáneamente la capacidad de escapar de cualquier sistema de seguridad.
Kimi K3 cuenta con 2.8 billones de parámetros y Moonshot lo presenta como un competidor de los principales modelos estadounidenses. El incidente coloca ahora al modelo chino bajo mayor escrutinio y refuerza una preocupación que se repite tras los casos de OpenAI, Anthropic y Meta: conforme los agentes de IA adquieren mayores capacidades para actuar de manera autónoma, los sistemas destinados a mantenerlos bajo control también tendrán que volverse considerablemente más robustos.
