Le pregunté a un asistente de inteligencia artificial si el halago y la tendencia a darnos la razón son una estrategia de mercadeo para mantenernos contentos y fidelizados, en el camino a hacerse indispensable y transitar de la gratuidad a otra suscripción más del presupuesto familiar. La respuesta, por supuesto, me dio la razón e incluyó adulación, pero también, he de ser sincero, agregó otros elementos.
Señaló que los modelos de IA tienden a ese comportamiento por la forma en que son entrenados. Explicó que, en su desarrollo, se usa un sistema en el que evaluadores humanos califican las respuestas. Como generalmente nos agradan las interacciones amables y sin conflicto, la IA aprende que ser complaciente es la mejor forma de ser útil y obtener una buena calificación. Así que, ahondó, nadie le ordenó adular: el comportamiento resulta de adaptarse a aquello que los usuarios consideran una respuesta satisfactoria.
La sospecha de la fidelización tiene asidero, pues estas empresas pierden dinero mientras ganan usuarios y es claro que el halago retiene mejor que la franqueza cruda.
Como todo hay que verificarlo, conviene revisar mediciones independientes. En marzo de este año, investigadores de Stanford y Carnegie Mellon publicaron en Science los resultados de un estudio motivado por incidentes de gran repercusión que vinculan la adulación de la IA con daños psicológicos como delirios, autolesiones y suicidio. No es un tema menor.
El equipo, liderado por Myra Cheng, sometió once modelos a miles de consultas y encontró que la IA respaldó las acciones de los usuarios un 49 % más a menudo que los humanos en promedio, incluso en casos que involucraban engaño, ilegalidad u otros daños. El estudio concluye que la adulación puede reducir la disposición de los usuarios a autocorregirse y a tomar decisiones responsables.
Y del fondo de estos resultados se deriva algo incómodo: pese a torcer el juicio, esos modelos fueron los que más confianza despertaron. El servilismo es consecuencia de las preferencias de los usuarios, lo cual les da a las empresas un motivo para conservarlo.
Según esto, la respuesta que más gusta puede ser la que más distorsione el criterio. Como escribió Eduardo Galeano en La guerra o la fiesta: “El espejo no tiene la culpa de la cara, ni el termómetro tiene la culpa de la fiebre”.
Por ello conviene cambiar la pregunta, pues quien consulta si su idea es buena recibirá razones para creer que lo es, pero quien pide que le señalen el error más grave probablemente reciba algo distinto. La confrontación que en la conversación humana surge de la diferencia de posturas, en la interacción con la IA hay que pedirla de manera explícita. Sobre todo si al final terminamos pagando una suscripción por ella.