OpenAI, la empresa detrás de ChatGPT, está pidiendo al Congreso de Estados Unidos que apruebe normas de seguridad obligatorias para los sistemas de inteligencia artificial más avanzados, en medio de una creciente preocupación por los riesgos que podría traer esta tecnología.
La compañía considera que los acuerdos voluntarios ya no son suficientes y propone que existan reglas nacionales que obliguen a las empresas de IA a someter sus modelos más potentes a evaluaciones independientes y cumplir protocolos de ciberseguridad.
El llamado llega en un momento caliente: legisladores estadounidenses están negociando una propuesta que podría establecer un “deber de cuidado” para las compañías que desarrollan IA avanzada y permitir al Gobierno bloquear el lanzamiento de modelos considerados peligrosos.
Entre los riesgos que preocupan a las autoridades aparecen escenarios bastante serios, como que sistemas avanzados puedan facilitar ciberataques o incluso ayudar a desarrollar armas biológicas o nucleares en manos equivocadas.
La preocupación no viene solamente de los políticos. Investigadores y antiguos trabajadores de empresas como OpenAI, Anthropic y Google han advertido recientemente sobre posibles comportamientos difíciles de controlar y sobre el rápido avance de estas tecnologías.
Ahora la pelota está en la cancha del Congreso estadounidense, donde se discute cómo controlar los riesgos sin frenar completamente el desarrollo de una tecnología que avanza a toda velocidad. La IA sigue corriendo… y ahora hasta quienes la fabrican piden que le pongan reglas.
