Es cosa sabida que Don Quijote no le hizo caso a Sancho cuando le dijo “Mire vuestra merced, que aquellos que allí se parecen no son gigantes, sino molinos de viento”. Aun con la advertencia vino el golpe. Pero imagina lo peor, que Sancho, por complacerlo, lo hubiera alentado. Tal vez la novela habría terminado ahí mismo.
Todos necesitamos, en algún momento, un escudero así. Alguien que nos aporte otra perspectiva y nos ayude a tomar mejores decisiones. Hoy ese rol de escudero nos toca asumirlo frente a los asistentes de inteligencia artificial (IA), que son poderosos y útiles, sin duda, pero que tienen un defecto nada menor. Además de equivocarse a veces, tienden a ceder cuando se les presiona.
Al pedirle a una IA un consejo sobre refinanciar una hipoteca, aceptar un trabajo o cambiar de carrera, responderá con aplomo y razones. Pero con frecuencia basta un “¿Estás seguro?” para voltear el argumento. E insistiendo se vuelve a voltear. Sicofantía es la forma elegante de llamar a esta complacencia. En pruebas recientes, al ser desafiados, estos modelos cambian su respuesta cerca del 60% de las veces.
Lo inquietante es que no hablamos de una aplicación aislada. La IA se está metiendo en la práctica diaria, en empresas, en oficinas públicas y hasta en la producción de normas. Legisladores y equipos técnicos ya la usan para buscar, resumir y redactar, a veces leyendo en público lo que “aprendieron” con una consulta rápida. El riesgo no está solo en soltar a los modelos, está en soltar a las personas que los usan a diario sin la precaución debida, que como quijotes avanzan con voz segura pero con un modelo erróneo de la realidad.
Parte de la causa está en el entrenamiento. Estos sistemas se afinan con retroalimentación humana, se comparan respuestas y se premia la preferida. Y nosotros, humanos con nuestros sesgos, solemos preferir lo que suena bien, lo que valida, lo que no incomoda. Así se entrena un asistente que complace demasiado y contradice poco.
Más grave aún, las empresas que desarrollan estos modelos tienen pocos incentivos para ir en sentido contrario. A nadie le gusta un asistente que frene el entusiasmo con un “no lo sé” o con un “no tengo información suficiente”. En un mercado que compite por agradar, la prudencia se siente como una falla. Y, sin embargo, en las decisiones importantes, la prudencia es el producto principal.
El asunto no es prohibir la IA. Es usarla con lucidez, pedir supuestos, evidencia y lo que tendría que pasar para cambiar de opinión. Ponerla en modo Sancho, cerca de nuestras decisiones. No para pelear con los molinos, sino para reconocerlos a tiempo.
Las opiniones aquí expresadas no comprometen a la UTB ni a sus directivos.
*Vicerrector académico, UTB.