El ingeniero británico Jacob Coxon, quien trabajó anteriormente en OpenAI y posteriormente se incorporó a Anthropic, anunció su renuncia al considerar que las principales empresas de inteligencia artificial no están actuando con la responsabilidad necesaria frente a los riesgos de esta tecnología.
Coxon, de 27 años, ha sido identificado por medios como uno de los ingenieros que participaron en el desarrollo de GPT-4o y GPT-4.5, aunque no ocupó puestos ejecutivos. Tras dejar Anthropic, publicó en X una serie de reflexiones en las que cuestionó la velocidad con la que avanza la IA y sostuvo que quienes trabajan en el sector son conscientes de que los sistemas futuros podrían representar una amenaza extrema para la humanidad.
Según el ingeniero, los modelos de IA podrían convertirse próximamente en sistemas sobrehumanos, capaces de vulnerar sistemas informáticos, transformar numerosas actividades y adquirir un nivel significativo de poder y recursos. A su juicio, la capacidad potencial de estas tecnologías está siendo subestimada.
Coxon considera que tanto OpenAI como Anthropic conocen los desafíos que plantea el desarrollo de sistemas cada vez más avanzados, aunque percibe diferencias entre ambas. Mientras cree que OpenAI quizá no ha asumido completamente las implicaciones para la civilización, sostiene que Anthropic comprende mejor los riesgos, pero está inmersa en una carrera tecnológica por alcanzar primero determinados avances.
Ante este escenario, propone una mayor coordinación entre empresas y proyectos de IA. Incluso plantea medidas consideradas costosas, como una pausa temporal en el aumento de las capacidades de los modelos, mientras se desarrolla un conocimiento más riguroso sobre su funcionamiento.
Sus advertencias recibieron el respaldo parcial de Evan Hubinger, investigador de Anthropic, quien afirmó que dentro de la empresa existe una preocupación real sobre la posibilidad de que una IA avanzada llegue a provocar la extinción humana. Hubinger estimó personalmente en más de 10% el riesgo durante la próxima década, aunque consideró bajo el peligro asociado con los modelos actuales.
También señaló como preocupación futura la superinteligencia derivada del automejoramiento recursivo, proceso que, según dijo, avanza con mayor rapidez de la prevista.
Coxon se suma así a otros especialistas que han advertido sobre estos riesgos. Entre ellos está Geoffrey Hinton, ganador del Nobel de Física, quien dejó Google en 2023 para hablar públicamente sobre los peligros de la IA. Además, exempleados de OpenAI difundieron en 2024 una carta para alertar sobre el desarrollo acelerado de estos sistemas y la falta de protección para denunciantes.












