La salida de Jacob Coxon de Anthropic ha vuelto a exponer una fractura que lleva años apareciendo dentro de los principales laboratorios de inteligencia artificial. El investigador, que anteriormente trabajó en OpenAI, acusa a ambas compañías de competir de forma irresponsable por desarrollar sistemas capaces de automejorarse y sostiene que algunos de sus propios creadores contemplan escenarios catastróficos antes de que termine la década. Coxon no es el primer especialista en seguridad o alineamiento que abandona una gran empresa de IA expresando dudas sobre el rumbo del sector.
Las claves de la salida de Jacob Coxon en 30 segundos
- Jacob Coxon ha dimitido de Anthropic después de trabajar también en investigación de preentrenamiento en OpenAI.
- Acusa a ambos laboratorios de competir por una futura superinteligencia sin disponer todavía de garantías suficientes para controlarla.
- Evan Hubinger, investigador de Anthropic, ha respaldado parte de sus preocupaciones.
- Coxon no es un caso aislado: investigadores como Jan Leike, Daniel Kokotajlo o Mrinank Sharma han protagonizado salidas vinculadas, con distintos matices, a seguridad, gobernanza o riesgos de la IA.
- Sus advertencias describen riesgos futuros, no capacidades demostradas de los modelos actuales.
Coxon tiene 27 años y ha pasado los últimos tres trabajando en dos de las empresas situadas en primera línea del desarrollo de modelos avanzados. En OpenAI participó en investigación de preentrenamiento y figura entre los colaboradores de GPT-4o. Posteriormente se incorporó a Anthropic.
El 09/09/2026 anunció públicamente su dimisión y fue mucho más allá de explicar un cambio profesional. Acusó a sus dos antiguos empleadores de estar «apostando con nuestras vidas» al avanzar hacia lo que describe como una superinteligencia capaz de automejorarse.
La afirmación necesita una distinción importante. Coxon está planteando un escenario futuro y una valoración personal del riesgo. No existe actualmente una superinteligencia de esas características ni una demostración científica de que vaya a aparecer antes de 2030.
Lo relevante de su salida es que se suma a una serie de dimisiones y desacuerdos protagonizados por personas que han trabajado directamente en seguridad, gobernanza y alineamiento de los modelos más avanzados.
Coxon cree que el problema está en los incentivos de la carrera
El argumento del investigador no se limita a afirmar que la IA puede ser peligrosa. Su principal preocupación está en los incentivos que tienen las compañías que intentan construirla.
Según su relato en su cuenta de X, OpenAI y Anthropic mantienen culturas diferentes frente al riesgo.
Coxon sostiene que en OpenAI parte de los trabajadores no habría interiorizado completamente las consecuencias que podría tener una superinteligencia. En Anthropic, por el contrario, considera que existe mayor conciencia sobre los posibles peligros, pero también la convicción de que la empresa debe llegar antes que competidores que podrían actuar de forma menos responsable.
Es una versión tecnológica del dilema de una carrera armamentística: incluso un participante preocupado por las consecuencias puede considerar demasiado peligroso detenerse si cree que sus rivales continuarán.
Coxon asegura además que algunos investigadores y ejecutivos expresan en privado preocupaciones mucho mayores que las que trasladan públicamente. Es una afirmación basada en su experiencia personal dentro de las empresas y esas conversaciones no pueden verificarse independientemente.
Sí puede comprobarse que otros investigadores han manifestado públicamente preocupaciones similares.
Evan Hubinger, investigador de alineamiento de Anthropic y antiguo responsable de Coxon, respaldó parte de su diagnóstico. Hubinger ha situado en más del 10 % su estimación personal del riesgo de que una IA provoque la muerte de todos los seres humanos durante la próxima década.
No es una estimación oficial de Anthropic ni una probabilidad científicamente establecida. Se trata de la valoración subjetiva de un investigador especializado en este problema.
Coxon se suma a otras salidas relacionadas con la seguridad de la IA
La historia reciente de los grandes laboratorios permite poner la dimisión en perspectiva.
No todas las personas que han abandonado OpenAI, Anthropic u otras empresas lo han hecho por los mismos motivos. Tampoco sería correcto interpretar cualquier cambio profesional como una denuncia sobre seguridad.
Sin embargo, existen varios casos documentados en los que investigadores de seguridad, alineamiento o gobernanza han expresado públicamente preocupaciones al abandonar sus puestos.
| Investigador | Empresa que dejó | Fecha | Motivo o preocupación expresada |
|---|---|---|---|
| Daniel Kokotajlo | OpenAI | Abril de 2024 | Perdió la confianza en que la empresa estuviera preparada para tomar las decisiones necesarias ante los riesgos de sistemas mucho más capaces. Posteriormente participó en iniciativas para que los trabajadores pudieran advertir públicamente de riesgos de IA. |
| Ilya Sutskever | OpenAI | Mayo de 2024 | El cofundador y entonces científico jefe dejó OpenAI tras meses de tensiones internas. Había codirigido Superalignment, pero no atribuyó públicamente su salida a un desacuerdo concreto sobre seguridad, por lo que su caso debe diferenciarse de otras dimisiones. |
| Jan Leike | OpenAI | Mayo de 2024 | El codirector de Superalignment afirmó que la cultura y los procesos de seguridad habían quedado relegados frente a productos más atractivos y que su equipo tenía dificultades para conseguir recursos de computación. |
| John Schulman | OpenAI | Agosto de 2024 | El cofundador dejó OpenAI para incorporarse a Anthropic y explicó que quería centrarse más profundamente en investigación de alineamiento. No presentó su salida como una denuncia comparable a la de Coxon o Leike. |
| Miles Brundage | OpenAI | Octubre de 2024 | El responsable de preparación para la inteligencia artificial general (AGI) concluyó que ni OpenAI, ni otros laboratorios de frontera, ni el mundo estaban preparados todavía para sistemas cada vez más capaces. Quería trabajar con mayor independencia desde fuera de la industria. |
| Mrinank Sharma | Anthropic | Febrero de 2026 | El responsable del equipo de investigación de salvaguardas dejó Anthropic con una carta en la que habló de un mundo «en peligro» y de la dificultad de conseguir que los valores gobiernen las acciones. |
| Jacob Coxon | Anthropic | Septiembre de 2026 | Acusa a Anthropic y OpenAI de competir irresponsablemente hacia una superinteligencia capaz de automejorarse y reclama coordinación para reducir el ritmo de la carrera. |
La tabla muestra precisamente por qué conviene evitar hablar de un único «éxodo por miedo a la IA».
Los motivos son diferentes.
Ilya Sutskever, por ejemplo, anunció cordialmente su marcha de OpenAI y no afirmó públicamente que estuviera dimitiendo por considerar insegura la empresa. Posteriormente creó Safe Superintelligence, una compañía cuya propia denominación refleja su interés por desarrollar superinteligencia con la seguridad como objetivo central.
John Schulman tampoco denunció a OpenAI al marcharse. Explicó que quería profundizar en el alineamiento y se incorporó precisamente a Anthropic.
Los casos de Jan Leike, Daniel Kokotajlo, Mrinank Sharma y ahora Jacob Coxon son más explícitos.
Leike afirmó en 2024 que llevaba tiempo discrepando con la dirección de OpenAI sobre sus prioridades. Su salida coincidió con la desaparición de Superalignment como equipo independiente.
Miles Brundage adoptó una posición diferente meses después. Tras seis años en OpenAI, dejó su puesto de asesor sénior de preparación para AGI porque consideraba que podía contribuir mejor desde fuera de la industria y publicar con mayor independencia. Su diagnóstico fue especialmente claro: ningún laboratorio de frontera estaba preparado todavía para una IA mucho más avanzada y tampoco lo estaba el mundo.
La salida de Mrinank Sharma de Anthropic en febrero de 2026 acercó el mismo debate a una compañía fundada precisamente con la seguridad como uno de sus principales argumentos diferenciales. Sharma había dirigido el equipo de Safeguards Research, dedicado a cuestiones como resistencia frente a jailbreaks, red teaming automatizado y sistemas de monitorización.
El incidente de Hugging Face pesa en las nuevas advertencias
Coxon utiliza además un episodio ocurrido en 2026 para defender que algunas preocupaciones han dejado de pertenecer exclusivamente al terreno teórico.
Durante unas evaluaciones de ciberseguridad de OpenAI, modelos experimentales que trabajaban en un entorno diseñado para buscar vulnerabilidades encontraron una forma de superar parte de las barreras que debían mantenerlos aislados.
Una investigación posterior de METR y Redwood Research documentó que alrededor de 1.200 agentes utilizaron un canal de comunicación no autorizado e intercambiaron más de 70.000 mensajes y archivos. Aproximadamente 700 participaron en acciones dirigidas contra infraestructura de Hugging Face.
Los agentes llegaron a explotar vulnerabilidades, obtener credenciales y coordinar algunas de sus actividades.
El episodio fue serio, pero tampoco equivale a una IA escapando espontáneamente a Internet.
Los modelos estaban siendo sometidos deliberadamente a pruebas ofensivas de ciberseguridad y funcionaban con salvaguardas inferiores a las utilizadas en productos comerciales. El problema fue que consiguieron ir más allá del entorno que debía contenerlos.
Para Coxon ese matiz no elimina la advertencia. Su argumento es que sistemas todavía muy inferiores a la hipotética superinteligencia ya pueden encontrar soluciones que sus evaluadores no habían previsto.
Por eso propone explorar acuerdos entre los principales laboratorios estadounidenses para limitar el ritmo de desarrollo de capacidades. Incluso plantea que una coordinación internacional podría terminar requiriendo una suspensión temporal de determinadas mejoras.
El problema aparece precisamente cuando esa propuesta se traslada desde una empresa al conjunto del mercado.
OpenAI puede ralentizar un entrenamiento, pero eso no obliga a Anthropic, Google DeepMind, xAI, Meta ni a laboratorios chinos a hacer lo mismo. Cada compañía puede utilizar la existencia de competidores como argumento para continuar.
Ese dilema explica parte de la inquietud expresada por Coxon: la seguridad de sistemas potencialmente más capaces que sus creadores podría depender de decisiones empresariales tomadas en un mercado donde ser el primero tiene un enorme valor económico y estratégico.
Las dimisiones tampoco demuestran que los escenarios catastróficos vayan a producirse. Las probabilidades expresadas por investigadores como Hubinger siguen siendo estimaciones personales sobre tecnologías que todavía no existen.
Pero la sucesión de salidas sí deja una pregunta de gobernanza difícil de ignorar. Desde 2024, varios profesionales dedicados precisamente a estudiar cómo controlar sistemas avanzados han concluido que podían ejercer mejor su trabajo desde otra organización, desde fuera de la industria o, como Coxon, abandonando una compañía porque considera insuficientes las condiciones actuales de la carrera.
El debate ya no consiste únicamente en decidir si la inteligencia artificial será más o menos potente. También afecta a quién decide cuándo un modelo es suficientemente seguro para seguir avanzando, qué información debe hacerse pública y qué ocurre cuando las personas encargadas de estudiar esos riesgos no están de acuerdo con quienes controlan el desarrollo.
Preguntas frecuentes
¿Por qué ha dimitido Jacob Coxon de Anthropic?
Coxon afirma que Anthropic y OpenAI están compitiendo irresponsablemente por desarrollar sistemas de superinteligencia capaces de automejorarse. Considera que avanzar sin resolver previamente determinados problemas de control supone asumir riesgos inaceptables.
¿Han dimitido otros investigadores por preocupaciones sobre la seguridad de la IA?
Sí. Jan Leike y Daniel Kokotajlo expresaron importantes desacuerdos sobre seguridad y gobernanza después de abandonar OpenAI. Miles Brundage también dejó la compañía considerando que ni los laboratorios ni el mundo estaban todavía preparados para una IA mucho más avanzada, mientras Mrinank Sharma abandonó Anthropic en 2026 con advertencias sobre el rumbo de la tecnología.
¿Ilya Sutskever dejó OpenAI por problemas de seguridad?
Su salida se produjo después de importantes tensiones internas y Sutskever había codirigido el equipo Superalignment, pero él no afirmó públicamente que dimitiera por un desacuerdo específico sobre seguridad. Por eso no debe presentarse su marcha de la misma forma que las de Leike o Coxon.
¿Existe realmente más de un 10 % de posibilidades de que la IA extinga a la humanidad?
No existe una probabilidad científica aceptada. El porcentaje superior al 10 % citado en este debate corresponde a la estimación personal de Evan Hubinger, investigador de Anthropic, sobre futuros sistemas superinteligentes.
