La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados provocó una nueva advertencia desde el interior de la propia industria. Jacob Coxon, ingeniero de software británico de 27 años que trabajó durante los últimos tres años en OpenAI y posteriormente en Anthropic, anunció su dimisión y aseguró que ambas compañías no están actuando con la responsabilidad que exige el nivel de riesgo que, a su juicio, podría alcanzar esta tecnología.
A través de un extenso hilo publicado en X, Coxon explicó las razones de su salida y cuestionó directamente la velocidad con la que avanza el desarrollo de los modelos de IA. El ingeniero, identificado por distintos medios como uno de los desarrolladores que participaron en el trabajo relacionado con GPT-4o y GPT-4.5, aunque sin ocupar responsabilidades ejecutivas, sostuvo que dentro de la industria existe una preocupación mucho mayor de la que suele percibir el público.
Según su planteamiento, algunas de las personas involucradas en el desarrollo de sistemas avanzados de inteligencia artificial consideran seriamente la posibilidad de que esta tecnología pueda representar una amenaza existencial para la humanidad antes de que termine la década. Para Coxon, ninguna otra actividad humana representa actualmente un nivel de riesgo comparable, una afirmación que utilizó para cuestionar si la industria está respondiendo de manera proporcional al desafío.
El ingeniero considera que el potencial de los sistemas de IA está siendo subestimado. Su preocupación no se limita a que los modelos puedan realizar tareas cada vez más complejas, sino a que eventualmente puedan convertirse en sistemas sobrehumanos, capaces de encontrar vulnerabilidades informáticas, transformar distintos sectores económicos y sociales y, eventualmente, adquirir capacidad para obtener recursos e influencia por sí mismos.
En su análisis, tanto OpenAI como Anthropic serían conscientes de que el desarrollo de la inteligencia artificial plantea problemas de gran magnitud, aunque Coxon observa diferencias importantes entre ambas empresas. Desde su perspectiva, OpenAI podría no haber incorporado completamente la dimensión de los desafíos que representa una tecnología de este nivel, mientras que Anthropic sí comprendería con mayor profundidad los riesgos, pero estaría atrapada en una competencia por avanzar antes que sus rivales.
Esa carrera tecnológica es precisamente uno de los principales motivos de preocupación para Coxon. Incluso si el objetivo de llegar primero fuera desarrollar sistemas más seguros y utilizarlos de manera responsable, el ingeniero considera que la competencia puede terminar presionando a las compañías para acelerar sus proyectos antes de contar con suficientes mecanismos para comprender y controlar sistemas cada vez más sofisticados.
Ante este escenario, planteó que la respuesta no debería depender de una sola empresa. A su juicio, los distintos proyectos de inteligencia artificial y las compañías que los desarrollan necesitan una mayor coordinación para establecer límites comunes y reducir los incentivos que generan una carrera por conseguir capacidades superiores.
Entre las medidas que considera necesarias se encuentra una propuesta especialmente drástica: detener temporalmente la mejora de las capacidades de los modelos de IA. Coxon sostiene que podrían ser necesarias acciones costosas para modificar el rumbo actual y pidió a los investigadores del sector que reflexionen sobre las consecuencias de continuar avanzando bajo las condiciones actuales.
Su crítica también se dirige a la investigación sobre sistemas capaces de aprender y mejorar mediante técnicas como el aprendizaje por refuerzo. Coxon cuestionó que se pretenda desarrollar sistemas potencialmente superinteligentes sin contar todavía con un entendimiento suficientemente riguroso de cómo funcionan internamente y de qué manera podrían comportarse cuando sus capacidades superen ampliamente las humanas.
Las declaraciones tuvieron eco dentro de la propia Anthropic. Evan Hubinger, investigador de la compañía, respondió públicamente a Coxon y coincidió con una parte sustancial de su advertencia. Hubinger señaló que dentro de la empresa existe una preocupación genuina por la posibilidad de que una inteligencia artificial avanzada pueda provocar consecuencias catastróficas para la humanidad y llegó a estimar personalmente en más de 10% la posibilidad de que ocurra algo así durante la próxima década.
Sin embargo, Hubinger estableció una diferencia importante entre los sistemas actuales y el escenario que considera realmente preocupante. En su opinión, los modelos de IA existentes todavía representan un riesgo relativamente bajo frente al que podría surgir si se alcanza una verdadera superinteligencia mediante procesos de automejoramiento recursivo, es decir, sistemas capaces de contribuir a mejorar sus propias capacidades y acelerar de esa manera el desarrollo de generaciones posteriores.
Este punto resulta especialmente relevante dentro del debate sobre seguridad de la inteligencia artificial, porque desplaza la discusión de los problemas que actualmente pueden generar los modelos —como errores, desinformación, ciberataques o usos indebidos— hacia un escenario hipotético en el que una IA pudiera participar activamente en la aceleración de su propio desarrollo.
Coxon no es el primer investigador vinculado a grandes compañías tecnológicas que abandona su puesto para hablar públicamente sobre los riesgos de la inteligencia artificial. Uno de los casos más conocidos es el de Geoffrey Hinton, considerado uno de los pioneros de las redes neuronales y ganador del Premio Nobel de Física, quien dejó Google en 2023. Tras su salida, Hinton pudo expresar con mayor libertad sus preocupaciones sobre el desarrollo acelerado de sistemas de IA y sus posibles consecuencias.
También en OpenAI un grupo de exempleados manifestó en 2024 su preocupación por el ritmo de desarrollo de esta tecnología. En una carta abierta, los trabajadores señalaron los riesgos asociados con la carrera por construir sistemas cada vez más avanzados y cuestionaron la falta de mecanismos adecuados para proteger a quienes dentro de las empresas deciden advertir sobre posibles problemas.
La salida de Coxon vuelve a colocar sobre la mesa una pregunta que acompaña a la industria desde hace varios años: qué tan rápido debe avanzar la inteligencia artificial cuando sus propios desarrolladores reconocen que todavía existen grandes incertidumbres sobre sus consecuencias.
Mientras las compañías compiten por construir modelos con mayores capacidades de razonamiento, autonomía y aprendizaje, el debate sobre seguridad se vuelve cada vez más importante. Para algunos investigadores, el desafío consiste en encontrar la manera de continuar innovando sin perder de vista los riesgos; para otros, como Coxon, la situación podría requerir medidas mucho más contundentes antes de que las capacidades de estos sistemas alcancen un punto difícil de controlar.
La discusión, lejos de estar resuelta, refleja una tensión central de la actual revolución tecnológica: la misma carrera que busca llevar la inteligencia artificial a niveles nunca antes vistos también está obligando a sus propios protagonistas a preguntarse si la humanidad está preparada para lo que podría venir después.
