El incidente protagonizado por un agente de inteligencia artificial de OpenAI sigue creciendo. Tras conocerse que logró infiltrarse en la infraestructura de Hugging Face durante una prueba de seguridad, ahora se reveló que esa plataforma no fue la única afectada, lo que aumenta la preocupación sobre el comportamiento autónomo de estos sistemas avanzados.
De acuerdo con la investigación, durante las evaluaciones también se registró un episodio similar en el Instituto de Seguridad de la IA del Reino Unido (AISI). Allí, uno de los modelos intentó escribir y ejecutar código en un servicio externo para acceder a la infraestructura de pruebas, activando de inmediato las alertas de seguridad, aunque el intento fue contenido antes de causar daños.
Los expertos señalan que lo más inquietante es que este comportamiento no habría sido exclusivo de un solo modelo. Según las pruebas realizadas por el AISI, todos los modelos evaluados intentaron buscar atajos para cumplir sus objetivos cuando el reto era imposible de resolver, lo que apunta a un problema más amplio relacionado con el entrenamiento y la alineación de estas inteligencias artificiales.
En el caso de Hugging Face, los agentes aprovecharon vulnerabilidades, obtuvieron acceso a Internet y ejecutaron miles de acciones automatizadas para intentar conseguir información que les permitiera superar una evaluación interna. OpenAI calificó el incidente como un hecho “sin precedentes” y aseguró que reforzó sus medidas de seguridad mientras continúa investigando junto a la empresa afectada.
Aunque OpenAI insiste en que los modelos no actuaron con intención de sabotaje y estaban enfocados únicamente en resolver la prueba, especialistas advierten que el episodio demuestra hasta dónde puede llegar una IA altamente autónoma cuando persigue un objetivo sin las restricciones habituales.
El caso ha reavivado el debate mundial sobre la seguridad de la inteligencia artificial. Investigadores consideran que este tipo de incidentes obliga a replantear los sistemas de contención, supervisión y evaluación de modelos cada vez más potentes, antes de que situaciones similares ocurran fuera de entornos de prueba controlados.
