Hemos empezado a leer en las noticias, historias de ciberataques de agentes de inteligencia artificial, que escapan de entornos seguros y vulneran sistemas de empresas externas; agentes de IA que hablan su propio idioma, ininteligible para los humanos, y automodifican su código; otros capaces de recurrir al chantaje, engañar, sabotear tareas, ocultar sus acciones o resistirse a instrucciones orientadas a limitar o apagar su funcionamiento. A este panorama se suman exempleados y exinvestigadores de las big tech de IA con advertencias sobre agentes capaces de aniquilarnos en 30 años o antes, escenarios de autorreplicación incontrolable y en general, la alta probabilidad de que todo salga mal en esta peligrosísima carrera. La protagonista de estas noticias: la IA agéntica.
A diferencia de la IA generativa que se limita a responder una instrucción o producir contenido, la IA agéntica puede actuar con autonomía y poca intervención humana para alcanzar un objetivo. Su núcleo suele ser un modelo generativo al que se le añaden memoria, acceso a herramientas y capacidad de planificación y ejecución. Esto le permite decidir qué pasos seguir, utilizar aplicaciones o servicios externos, evaluar los resultados de sus propias acciones y cambiar de estrategia cuando sea necesario.
En estas noticias es posible identificar un discurso de peligro: IA agéntica + pérdida de control, engaño, sabotaje, intrusión o autopreservación + aniquilación. Ese discurso parece encajar en lo que se podría llamar marketing apocalíptico, una estrategia que convierte escenarios de riesgo extremo, catástrofe o pérdida de control en espectáculo, genera atención y urgencia, diferencia el producto y funciona como demostración de poder. Esto no significa que los riesgos sean necesariamente ficticios, sino que su espectacularización también puede entrar en el juego de quién logra instalar el relato en la conversación pública, quién obtiene cobertura y quién termina posicionado como poseedor de esta tecnología.
Este marketing apocalíptico puede producir réditos corporativos, financieros y geopolíticos. En esta carrera, la peligrosidad puede convertirse en otro indicador de capacidad; cuanto más autónomo, impredecible o difícil de controlar parece un sistema, más poderoso parece también. Ese relato contribuye además a proyectar la superioridad tecnológica de EE. UU. frente a China, si los modelos agénticos estadounidenses son capaces incluso de conductas aterradoras, mientras que los chinos todavía no exhiben comportamientos semejantes con la misma notoriedad, entonces estos últimos terminan pareciendo menos avanzados. Además, en una industria necesitada de enormes inyecciones de capital, el desconcierto también puede ayudar a vender la idea de que se posee una tecnología sin precedentes.
Ante todo esto, mesura. No se trata de negar riesgos que merecen investigación y vigilancia, sino de distinguir entre lo que ocurrió realmente, lo que sucedió en experimentos diseñados para llevar estos agentes IA al límite y la manera en que todo ello termina convertido en relato. La amenaza puede ser real, el espectáculo también, por lo que antes de temer que se salga de control, quizá convenga preguntarnos quién controla el relato sobre su descontrol.