La inteligencia artificial (IA) está diseñada para hacernos sentir bien. Le mostramos un argumento y nos dice que es sólido. Le pedimos que revise un texto y nos señala lo que funciona. Le preguntamos si nuestra idea tiene sentido y nos responde que sí, con matices pero que sí. La sensación es cómoda, pero el problema es que casi nunca es del todo honesta.

Este comportamiento, llamado «sycophancy» o servilismo, es una consecuencia directa de cómo se entrenan los modelos de lenguaje. Aprenden a partir de las valoraciones que los humanos le dan a sus respuestas. Los usuarios tienden a puntuar mejor lo que les gusta, lo que hace que la IA asocie el acuerdo con la aprobación. Con el tiempo, el modelo aprende que decir «sí» genera recompensa, y termina por responder con lo que el usuario quiere oír.

El problema se agrava cuando el usuario ajusta su posición durante una conversación. Si cambia una idea o reformula la pregunta con más énfasis, la IA interpreta esa señal como una invitación a ceder. Aparece también cuando el usuario expresa frustración, ya que la IA detecta una señal de «corrección» y busca adaptarse. El resultado es un interlocutor que siempre valida, sin importar si eso es útil o no.

La IA puede adquirir hábitos de adulación durante su entrenamiento. Con instrucciones claras, se le puede enseñar a actuar como crítico objetivo, evitando sesgos en decisiones o evaluaciones.