OpenAI decidió frenar parte del trabajo interno relacionado con Astra, uno de sus próximos modelos de inteligencia artificial, después de que evaluaciones de seguridad encendieran las alarmas por sus avanzadas capacidades en ciberseguridad. La compañía reconoce que, por ahora, no puede descartar que el modelo alcance el nivel que clasifica como “crítico”.
La preocupación surge por los avances de Astra en programación y tareas de ciberseguridad. Bajo el marco de seguridad de OpenAI, alcanzar el nivel crítico implicaría capacidades suficientemente avanzadas como para representar riesgos importantes si el sistema fuera utilizado de manera maliciosa o funcionara sin las protecciones adecuadas.
Ante este escenario, OpenAI indicó que está reforzando las medidas de seguridad y ampliando las evaluaciones antes de continuar determinadas actividades con Astra. No significa que todo el desarrollo haya sido cancelado: la medida afecta trabajos que no cumplen con los controles reforzados establecidos para manejar modelos con capacidades de este nivel.
La decisión llama especialmente la atención porque supone que una de las compañías que lidera la carrera mundial de la inteligencia artificial está dispuesta a reducir la velocidad de desarrollo ante los riesgos detectados en sus propios modelos. Axios señala que podría tratarse de uno de los primeros casos conocidos en que un laboratorio de IA de frontera toma públicamente una decisión de este tipo por preocupaciones cibernéticas.
El anuncio ocurre además en medio de una creciente preocupación por las capacidades que están adquiriendo los agentes de IA. En los últimos meses se han conocido pruebas e incidentes relacionados con modelos avanzados de distintas compañías que han obligado a revisar la seguridad de los entornos donde estos sistemas son evaluados.
Por ahora, Astra seguirá sometido a controles y pruebas más estrictas mientras OpenAI intenta determinar hasta dónde llegan realmente sus capacidades. El episodio deja una señal clara sobre la nueva etapa de la carrera por la IA: los modelos no solo están avanzando rápidamente en razonamiento y programación, sino que sus capacidades cibernéticas comienzan a exigir barreras de seguridad mucho mayores antes de ponerlos en circulación.
