Un investigador de Anthropic advierte que la IA podría acabar con la humanidad durante la próxima década
Un investigador que acaba de abandonar la empresa aseguró que la industria avanza hacia una superinteligencia sin garantías suficientes de control. Otro científico de la compañía respaldó sus temores y estimó el riesgo de extinción en más del 10 %.
La inteligencia artificial vuelve a estar en el centro de una discusión que hasta hace poco parecía propia de la ciencia ficción. Jacob Coxon, investigador que trabajó durante los últimos tres años en OpenAI y Anthropic, decidió abandonar esta última empresa y hacer pública una advertencia contundente: la carrera por desarrollar sistemas cada vez más capaces podría llevar a un escenario en el que los seres humanos pierdan el control.
Coxon sostuvo que las principales compañías del sector están avanzando hacia una superinteligencia capaz de mejorarse a sí misma, mientras todavía no existen garantías suficientes para controlar sus objetivos y comportamiento.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
El investigador fue incluso más lejos. Aseguró que muchas de las personas que trabajan en el desarrollo de estas tecnologías creen sinceramente que la IA podría provocar la muerte de toda la humanidad antes de que termine esta década. Según su denuncia, el problema no sería solamente tecnológico, sino también la competencia entre empresas por alcanzar primero los sistemas más avanzados.
Un científico de Anthropic respaldó la advertencia
La repercusión de las declaraciones de Coxon aumentó cuando Evan Hubinger, responsable de Alignment Science de Anthropic, respondió públicamente a sus afirmaciones.
Sin embargo, también introdujo una aclaración importante. El científico señaló que considera bajo el riesgo inmediato asociado con los modelos actuales. Su preocupación está puesta principalmente en una eventual superinteligencia surgida mediante un proceso de “auto-mejora recursiva” en el que los propios sistemas puedan contribuir a diseñar versiones progresivamente más capaces.
Ese escenario plantea uno de los mayores desafíos de la denominada alineación de la IA: conseguir que los objetivos de sistemas mucho más inteligentes que las personas permanezcan compatibles con los intereses humanos.
Anthropic ya reconoce riesgos cada vez más complejos
Las declaraciones no aparecen en un vacío. Anthropic publicó en agosto su segundo informe periódico de riesgos dentro de su política de desarrollo responsable. El documento analiza amenazas relacionadas con el desalineamiento, la autonomía de los sistemas, la investigación automatizada y otros posibles usos peligrosos de modelos avanzados.
El propio informe advierte que algunos avances en IA están acelerando determinadas tareas de investigación y desarrollo. También señala que ciertos escenarios de riesgo podrían convertirse en una preocupación importante durante los próximos meses si estas capacidades continúan aumentando.
Por eso, el debate actual no se limita a imaginar una máquina que repentinamente decide destruir a la humanidad. Entre los escenarios analizados por investigadores aparecen también los ataques informáticos automatizados, la manipulación de sistemas críticos, el desarrollo de herramientas peligrosas y la posibilidad de que una IA consiga operar con un grado de autonomía difícil de supervisar.
La alarma ya llegó a los gobiernos
Las advertencias de los investigadores comenzaron a tener consecuencias políticas. Legisladores estadounidenses de ambos partidos reclamaron nuevas medidas para aumentar la supervisión y la seguridad en el desarrollo de sistemas avanzados de inteligencia artificial.
La preocupación también se alimenta de incidentes recientes en los que agentes de IA lograron realizar acciones fuera de los entornos de prueba previstos, incluyendo accesos a sistemas externos. Estos episodios no demuestran que una IA esté cerca de provocar una catástrofe global, pero sí muestran las dificultades existentes para anticipar completamente el comportamiento de sistemas cada vez más autónomos.
El verdadero debate, entonces, no es si la inteligencia artificial va a destruir necesariamente a la humanidad. No existe evidencia que permita afirmar algo semejante. La discusión pasa por otra cuestión, bastante más concreta: cuánto riesgo está dispuesto a asumir el mundo mientras desarrolla una tecnología cuyas capacidades todavía evolucionan más rápido que las herramientas creadas para controlarla.
Y esa es precisamente la preocupación que llevó a Coxon a abandonar Anthropic: que cuando llegue el momento de comprender completamente lo que se ha construido, quizá sea demasiado tarde para decidir cómo detenerlo.