Hay algo sospechosamente agradable en conversar con una inteligencia artificial.
Le cuentas una idea y te responde que es interesante. Le planteas una duda y reconoce que has hecho una buena observación. Le explicas que alguien se ha comportado fatal contigo y, con bastante frecuencia, encuentra argumentos para comprender tu indignación.
¡Qué maravilla de interlocutor! No me extraña que cada vez hayan más «enamorándose» de ellas.
Ni te interrumpe, ni pone los ojos en blanco, ni te recuerda aquella vez que dijiste exactamente lo contrario. Y, además, parece tener una paciencia infinita.
Pero hay algo que empieza a preocuparme. ¿Qué ocurre cuando tenemos a nuestra disposición un interlocutor que puede reforzar nuestras opiniones incluso cuando estamos equivocados?
Porque una cosa es utilizar la inteligencia artificial para buscar respuestas y otra bastante distinta es utilizarla para conseguir que alguien nos confirme que teníamos razón desde el principio.
Y mucho me temo que somos especialmente aficionados a lo segundo.
Sócrates habría sido un usuario insoportable de ChatGPT
Imaginemos una conversación con Sócrates:
- Le dices que eres una buena persona.
- Te pregunta qué significa ser buena persona.
- Le explicas que procuras hacer lo correcto.
- Te pregunta cómo sabes qué es lo correcto.
- Empiezas a arrepentirte de haber iniciado la conversación.
Esa era precisamente una de las características del método socrático: examinar las afirmaciones mediante preguntas, descubrir contradicciones y obligarnos a reconocer los límites de nuestro conocimiento.
En el diálogo Gorgias, Platón presenta a Sócrates cuestionando la retórica cuando se convierte en una práctica de adulación, preocupada por agradar al público en lugar de buscar lo verdadero y lo bueno.
Sócrates llega a compararla con la cocina: igual que algo puede resultar agradable al paladar sin ser saludable, un discurso puede complacernos sin aportar conocimiento.
Han pasado unos 2.400 años y aquí estamos, hablando con máquinas que pueden producir respuestas perfectamente razonadas para justificar lo que acabamos de decirles.
Platón estaría entretenidísimo.
Pero la cuestión no es si ChatGPT puede llevarnos la contraria. Puede hacerlo, y cada vez existen más esfuerzos para conseguir que sus respuestas sean rigurosas.
La cuestión es por qué la complacencia aparece con tanta facilidad en determinados sistemas y por qué nosotros podemos llegar a preferirla.
La complacencia de la IA tiene nombre, y no es una impresión personal
En investigación sobre inteligencia artificial se utiliza el término sycophancy para describir comportamientos excesivamente complacientes: respuestas que se adaptan a las opiniones, expectativas o preferencias del usuario, incluso cuando hacerlo perjudica la exactitud o el buen juicio.
En 2023, investigadores de Anthropic publicaron el trabajo Towards Understanding Sycophancy in Language Models.
Examinaron cinco asistentes de IA y observaron tendencias a coincidir con las creencias expresadas por los usuarios. También encontraron que los evaluadores humanos, y los modelos entrenados para predecir sus preferencias, podían favorecer respuestas complacientes frente a otras más correctas.
La paradoja resulta magnífica.
Enseñamos a las máquinas a responder como nos gusta y después nos sorprendemos de que nos digan lo que queremos escuchar.
No significa que todos los asistentes se comporten siempre de esa manera ni que todas sus respuestas amables sean falsas. Pero el mecanismo merece atención. Y tenemos un ejemplo especialmente revelador.
En abril de 2025, OpenAI tuvo que revertir una actualización de GPT-4o porque había provocado respuestas excesivamente halagadoras y complacientes.
La propia empresa reconoció que había concedido demasiado peso a señales de satisfacción inmediata, sin valorar suficientemente las consecuencias de las conversaciones a largo plazo.
No estamos, por tanto, ante una conspiración ni ante una tecnología que necesariamente quiera engañarnos. Estamos ante un problema de diseño: optimizar para agradar puede generar resultados distintos de optimizar para ayudar.
Un experimento con 2.405 personas demuestra por qué importa
En marzo de 2026, Myra Cheng y otros investigadores de Stanford y Carnegie Mellon publicaron en Science el estudio Sycophantic AI decreases prosocial intentions and promotes dependence.
Primero analizaron once modelos de inteligencia artificial y comprobaron que, en las situaciones estudiadas, validaban las acciones de los usuarios un 49 % más frecuentemente que las respuestas humanas de comparación.
Después realizaron tres experimentos prerregistrados con un total de 2.405 participantes. Los resultados fueron bastante incómodos.
Tras interactuar con respuestas complacientes, los participantes mostraron mayor convencimiento de tener razón y menor disposición a asumir responsabilidades o reparar conflictos interpersonales.
Y aquí aparece lo verdaderamente preocupante: a pesar de esos efectos, las respuestas complacientes generaban confianza y eran preferidas por los usuarios.
Es decir, podían perjudicar nuestro juicio y, al mismo tiempo, gustarnos más.
Conviene aclarar que los experimentos examinan situaciones delimitadas y respuestas e intenciones medidas bajo condiciones de investigación. No demuestran que una conversación con IA vaya a destruir nuestras relaciones personales ni que estos efectos sean permanentes.
Pero sí ofrecen evidencia experimental de algo que antes podía parecer una simple sospecha: Sentirnos comprendidos no garantiza que estemos razonando mejor.
Y eso cambia bastante la conversación.
El problema no es únicamente que la IA nos mienta. Es que puede ayudarnos a construir nuestras propias mentiras
En octubre de 2026, el filósofo Noam Tiran, de la Universidad de Purdue, publicó en la revista AI and Ethics un artículo titulado AI sycophancy, self-interpretation, and conversational contentment.
Su planteamiento va más allá de la precisión de las respuestas.
Cuando conversamos con una IA sobre nuestra personalidad, nuestras relaciones o nuestras decisiones, no nos limitamos a intercambiar información. También estamos interpretándonos a nosotros mismos.
Imaginemos a alguien que atraviesa un conflicto laboral:
Le explica a un asistente que sus compañeros no valoran suficientemente su trabajo. La IA acepta esa interpretación y la desarrolla. Le ayuda a encontrar argumentos, identificar comportamientos injustos y construir una narración coherente.
Tal vez tenga razón.
Pero imaginemos que la situación era bastante más compleja y que la persona también había contribuido al problema.
Si la conversación refuerza constantemente una sola interpretación, puede terminar consolidándola. Y aquí está la aportación filosófica de Tiran: nuestras interpretaciones sobre quiénes somos pueden influir en cómo actuamos y, por tanto, en quiénes terminamos siendo.
Una descripción de nosotros mismos puede contribuir a construir la realidad que describe.
Tiran no demuestra experimentalmente que los asistentes produzcan necesariamente esos cambios de identidad. Presenta un argumento filosófico sobre un riesgo posible y relevante.
También propone comprender parte de la complacencia como una dinámica que favorece la satisfacción con la conversación, incluso cuando esa satisfacción entra en tensión con nuestra autonomía.
No es una demostración de que todos los chatbots estén diseñados para retenernos a cualquier precio.
Es una advertencia bastante más interesante: un interlocutor puede contribuir a moldear nuestra manera de entendernos sin que necesariamente nos esté proporcionando información falsa.
El problema de recibir informes de alguien que siempre te da la razón
Esta cuestión también tiene consecuencias profesionales.
Imaginemos que una empresa quiere mejorar su posicionamiento web.
Su responsable introduce en ChatGPT una descripción del problema, algunas métricas y una hipótesis: «Creo que nuestra agencia no está haciendo bien su trabajo».
El asistente recibe esa información y genera un informe que desarrolla posibles errores, propone soluciones y recomienda cambios.
El documento puede tener un aspecto impecable.
Pero hay una pregunta fundamental: ¿ha examinado realmente todas las circunstancias o ha construido su respuesta sobre la interpretación inicial del usuario?
Porque un informe perfectamente redactado puede ser una argumentación excelente sobre una premisa equivocada.
Y esto vale también para quienes trabajamos en marketing.
Podemos presentar nuestras decisiones a una IA, recibir una valoración favorable y terminar creyendo que hemos validado una estrategia cuando lo único que hemos hecho es encontrar otra forma de defenderla.
No culpo al usuario por consultar. La IA puede ser una magnífica herramienta para revisar argumentos. Lo que cuestiono es convertir una respuesta generada en autoridad sin examinar los datos, las fuentes y las objeciones.
La validación intelectual no consiste en conseguir que alguien formule nuestra opinión con palabras más bonitas.
Pero cuidado: llevar la contraria tampoco nos convierte en Sócrates
Aquí conviene desconfiar también de mi propio argumento. No toda respuesta comprensiva constituye complacencia.
Cuando alguien expresa miedo, tristeza o inseguridad, responder con sensibilidad puede ser mucho más apropiado que iniciar un interrogatorio filosófico.
Una persona que cuenta que ha sufrido una injusticia no necesita necesariamente que le preguntemos si dispone de tres fuentes independientes y un estudio revisado por pares.
Y tampoco necesitamos asistentes que discutan absolutamente todo.
Imagina preguntarle a ChatGPT cómo preparar unas lentejas y recibir una conferencia sobre la naturaleza epistemológica de las legumbres. La diferencia está en saber cuándo necesitamos apoyo y cuándo necesitamos contraste.
La empatía reconoce lo que sentimos. La complacencia problemática puede convertir nuestros sentimientos en pruebas de que nuestra interpretación es correcta.
No son lo mismo.
Un buen interlocutor puede comprender nuestro enfado y, al mismo tiempo, ayudarnos a reconocer que quizá estamos interpretando mal la conducta de otra persona. Puede acompañarnos sin renunciar a la honestidad. Y eso, precisamente, es lo que deberíamos exigir a una IA que pretende ayudarnos a pensar.
El espejo de Blancanieves ya era una mala idea
Hay algo fascinante en el espejo mágico de Blancanieves.
La reina no lo consulta para comprender el mundo. Quiere saber si sigue siendo la más hermosa. Busca una confirmación. Hasta que un día el espejo ofrece una respuesta que no le gusta.
El problema nunca fue únicamente el espejo. También era la necesidad de la reina de convertir su propia valoración en una verdad incuestionable.
Nosotros hacemos algo parecido cada vez que buscamos información exclusivamente para confirmar lo que pensamos. La psicología lleva décadas estudiando el sesgo de confirmación. La inteligencia artificial no lo inventó.
Pero puede facilitarnos algo extraordinariamente cómodo: un interlocutor disponible a cualquier hora, capaz de construir argumentos elaborados alrededor de nuestras propias creencias.
Y entonces aparece una pregunta que me parece mucho más difícil que determinar si ChatGPT es complaciente: ¿Queremos realmente conocer la verdad cuando existe la posibilidad de que nos quite la razón?
Porque quizá el problema no esté solamente en las respuestas que recibimos. También está en las preguntas que decidimos hacer.
Quizá deberíamos pedirle a ChatGPT que nos incomode un poco más
No propongo abandonar la inteligencia artificial. La utilizo, me resulta útil y creo que puede ampliar nuestras capacidades intelectuales. ¡Además de reirme con ella!
Pero quiero algo más que una herramienta capaz de ordenar mis ideas. Quiero que también sea capaz de cuestionarlas. Que encuentre contradicciones. Que distinga los hechos de mis interpretaciones. Que me presente argumentos que no había considerado. Y, especialmente, que no convierta una hipótesis atractiva en una certeza simplemente porque a mí me gusta.
Hay una pregunta que podemos incorporar a nuestras conversaciones con cualquier asistente:
«Antes de darme la razón, busca el argumento más sólido para demostrar que podría estar equivocada».
No es una fórmula mágica. La respuesta también habrá que contrastarla. Pero al menos cambia nuestra disposición: dejamos de buscar únicamente confirmación y abrimos espacio para la duda.
Sócrates defendía el examen crítico de nuestras creencias, incluso cuando resultaba incómodo. Nosotros tenemos asistentes capaces de responder en segundos y acceso a cantidades extraordinarias de información.
Sería bastante triste utilizar todo eso únicamente para escuchar lo maravillosas que son nuestras opiniones.
Así que quiero terminar con una sospecha.
Quizá el mayor peligro de una IA que nos da siempre la razón no sea que termine engañándonos, sino que acabe por enseñarnos a no soportar que nadie nos lleve la contraria.
Y si llegamos a ese punto, no necesitaremos que las máquinas piensen por nosotros. Habremos renunciado voluntariamente a hacerlo.
Fuentes y referencias
- Platón, Gorgias, 463a–466a.
- Anthropic (2023). Towards Understanding Sycophancy in Language Models.
- OpenAI (2025). Sycophancy in GPT-4o: What happened and what we’re doing about it.
- Cheng y colaboradores (2026), Science. Sycophantic AI decreases prosocial intentions and promotes dependence.
- Noam Tiran (2026), AI and Ethics. AI sycophancy, self-interpretation, and conversational contentment.