Jacob Coxon, investigador especializado en inteligencia artificial que trabajaba en Anthropic, decidió renunciar a la compañía y hacer pública una preocupante advertencia sobre el rumbo que está tomando el desarrollo de sistemas cada vez más avanzados. Sus declaraciones encendieron las alarmas en la industria tecnológica al plantear que la carrera por construir una superinteligencia podría representar un riesgo extremo para la humanidad.
Coxon sostuvo en publicaciones difundidas en X que empresas como Anthropic y OpenAI están avanzando rápidamente hacia sistemas capaces de mejorarse a sí mismos, sin que exista todavía una estrategia suficientemente clara para controlar las consecuencias de esa evolución. A su juicio, la competencia entre los grandes laboratorios de IA podría estar llevando a tomar decisiones demasiado arriesgadas.
El investigador llegó a advertir que algunos especialistas del sector consideran posible que una inteligencia artificial avanzada pueda provocar la extinción humana antes de finalizar esta década. Aunque se trata de una predicción y no de un hecho demostrado, la dimensión de la advertencia generó una fuerte reacción debido a que proviene de alguien que trabajó directamente en uno de los principales laboratorios de IA del mundo.
La preocupación no quedó únicamente en las palabras de Coxon. Evan Hubinger, otro investigador de Anthropic, respaldó públicamente parte de sus argumentos y estimó que existe una probabilidad superior al 10 % de que una superinteligencia pueda provocar una catástrofe de escala masiva durante la próxima década. También reconoció que todavía no existe un plan concreto que garantice que una futura superinteligencia permanezca alineada con los intereses humanos.
Coxon cuestionó especialmente la velocidad con la que avanza esta carrera tecnológica. Según su planteamiento, el problema no es únicamente que la IA sea cada vez más capaz, sino que eventualmente podría adquirir autonomía, mejorar sus propias capacidades y obtener acceso a recursos a una velocidad difícil de controlar. Por ello, plantea la necesidad de frenar temporalmente el desarrollo de capacidades más avanzadas mientras se establecen mecanismos de seguridad y coordinación.
La polémica vuelve a colocar en el centro del debate una pregunta que divide a científicos, empresarios y gobiernos: ¿la humanidad está desarrollando la inteligencia artificial más rápido de lo que está aprendiendo a controlarla? Las advertencias de Coxon no significan que una catástrofe sea inevitable, pero sí reflejan el creciente temor dentro de la propia industria de que la carrera por alcanzar sistemas cada vez más poderosos pueda superar las medidas de seguridad disponibles.
