Jacob Coxon, ingeniero británico de software e investigador especializado en inteligencia artificial, anunció su salida de Anthropic con una advertencia contundente sobre el rumbo que, según él, están tomando las principales compañías del sector.
Coxon aseguró que tanto Anthropic como OpenAI están avanzando hacia sistemas de inteligencia artificial cada vez más capaces sin actuar de forma responsable frente a los riesgos que implica ese desarrollo. El investigador trabajó durante tres años en investigación de preentrenamiento en ambas empresas.
Antes de incorporarse a Anthropic, Coxon formó parte de OpenAI y participó en el desarrollo de GPT-4 y GPT-4.5. Su experiencia en las dos compañías convierte sus señalamientos en una advertencia especialmente relevante dentro del debate sobre la seguridad de la IA.
En un hilo publicado en X tras presentar su renuncia, el ingeniero afirmó: “Ninguna de las dos compañías está actuando de manera responsable”. También sostuvo que ambas están “corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”. Lea: Así puedes transformar tu foto actual en una imagen de los años 80 con IA
La publicación alcanzó 67 millones de visualizaciones y 464.000 ‘me gusta’ durante la mañana del miércoles, impulsando nuevamente la discusión sobre los riesgos asociados con el avance de la inteligencia artificial y la ausencia de una regulación internacional capaz de establecer límites a su desarrollo.
¿Por qué preocupa que la inteligencia artificial pueda superar a los humanos?
Coxon afirmó que existe un temor real entre personas que trabajan en el desarrollo de estos sistemas. Según explicó, algunos investigadores y ejecutivos creen que la inteligencia artificial podría llegar a matar a todos los seres humanos.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing”, escribió el ingeniero,
Y continuó: “Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, agregó el ingeniero.
La discusión ocurre mientras las principales empresas tecnológicas continúan ampliando sus inversiones y capacidades en inteligencia artificial. Google, OpenAI, Microsoft, Anthropic y más de un centenar de compañías firmaron recientemente una carta dirigida a los gobiernos para pedir una “acción colectiva en materia de ciberdefensa”.
El documento advierte que infraestructuras esenciales, entre ellas hospitales, plantas de tratamiento de agua y la infraestructura que sostiene a internet, están expuestas a amenazas relacionadas con ataques impulsados por inteligencia artificial.
La situación ha generado cuestionamientos sobre la aparente contradicción entre advertir públicamente sobre los peligros de esta tecnología y, al mismo tiempo, competir por desarrollar sistemas más avanzados. OpenAI, por ejemplo, presentó durante la última semana su modelo ChatGPT-6 Astra. Lea también: OpenAI presenta ChatGPT-6 Astra, su modelo de IA más avanzado hasta ahora
¿Qué dicen los expertos sobre el riesgo de una superinteligencia?
Greg Brockman, presidente de OpenAI, señaló que ese desarrollo llegará a ser considerado como una de las primeras etapas de la inteligencia artificial general o superinteligencia, concepto asociado con sistemas capaces de superar a los humanos en una amplia variedad de tareas.
Coxon explicó que, desde su perspectiva, dentro de OpenAI muchos trabajadores todavía no han asumido plenamente las consecuencias colectivas de ese escenario. Sobre Anthropic, en cambio, sostuvo que sus integrantes comprenden mejor los riesgos, pero están condicionados por una competencia en la que consideran que deben avanzar antes que sus rivales.
Evan Hubinger, líder de ciencia de alineación de Anthropic y antiguo jefe de Coxon, respaldó parte de esa advertencia.
“Jacob tiene razón aquí—realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década”, indicó.
“Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, añadió.
La preocupación también había sido expresada recientemente por Bill Gates, cofundador de Microsoft, quien en un ensayo publicado el 26 de agosto calificó de “turbulenta” la transición hacia la era de la inteligencia artificial y planteó como máxima prioridad la creación de un marco nacional e internacional para abordar esta tecnología.
Gates también recordó que la llegada del computador personal tomó alrededor de dos décadas para transformar de manera significativa la forma de trabajar, debido al tiempo necesario para desarrollar el software, reducir sus costos y aprender a incorporarlo en los procesos empresariales.