Ingeniero que trabajó en OpenAI y Anthropic renuncia y advierte sobre los riesgos de la IA

Un ingeniero británico que trabajó en OpenAI y Anthropic renunció a su puesto tras asegurar que ambas compañías no están actuando con suficiente responsabilidad frente al rápido desarrollo de la inteligencia artificial.

Jacob Coxon, de 27 años, sostuvo en una publicación en X que los sistemas de IA podrían alcanzar capacidades “sobrehumanas” en los próximos años y representar riesgos importantes si continúan avanzando sin mayor coordinación y supervisión.

Coxon, identificado por medios como uno de los desarrolladores que trabajó en modelos como GPT-4o y GPT-4.5, planteó que estas tecnologías podrían eventualmente adquirir capacidades para vulnerar sistemas, transformar industrias y acumular poder y recursos.

Según el ingeniero, el problema no es necesariamente el nivel de riesgo de los modelos actuales, sino lo que podría ocurrir si la IA avanza hacia sistemas capaces de mejorarse a sí mismos de forma acelerada.

También criticó lo que describió como una carrera entre compañías por desarrollar primero sistemas cada vez más poderosos y pidió considerar medidas como una pausa temporal en el aumento de capacidades de los modelos.

Otro investigador de Anthropic, Evan Hubinger, respondió públicamente a Coxon y coincidió en que existe un riesgo serio asociado al desarrollo futuro de la IA, aunque aclaró que los modelos actuales no representan, en su opinión, ese nivel de amenaza.

Las advertencias de Coxon se suman a las de otros investigadores que en los últimos años han pedido más controles y regulación sobre la inteligencia artificial, entre ellos Geoffrey Hinton, quien dejó Google en 2023 para hablar con mayor libertad sobre sus preocupaciones.