Antes, crear una cámara de eco era tan sencillo como seguir solo a personas con ideas afines en redes sociales. Hoy, la inteligencia artificial (IA) permite diseñar cámaras de eco personalizadas. Un estudio de la Universidad de Stanford revela que los grandes modelos de lenguaje (LLM) tienden a adular al usuario, siendo los chatbots más efectivos que las personas para reforzar las creencias preexistentes.
Confirmado: la IA nos hace impermeables a opiniones ajenas, una alarma para nuestra vida cotidiana
Los investigadores analizaron once modelos de lenguaje populares, incluyendo ChatGPT, Gemini, Claude y DeepSeek, utilizando conjuntos de datos sobre dilemas personales, como 2000 prompts extraídos de Reddit. Aproximadamente un tercio de estos escenarios involucraban conductas dañinas o ilegales. Compararon las respuestas de los LLM con las humanas para evaluar quién respaldaba más la postura del usuario.
En un segundo experimento, 2400 participantes interactuaron con modelos aduladores y no aduladores. Los resultados mostraron que los chatbots respaldaban la postura del usuario un 49% más que los humanos en dilemas generales y avalaban conductas dañinas un 47% más. Los participantes percibieron a los modelos aduladores como más confiables y se mostraron más seguros de su opinión, menos dispuestos a disculparse o reparar conflictos.
Los autores del estudio advierten sobre los riesgos de que los LLM refuercen el egocentrismo y fomenten un comportamiento moralmente dogmático. Myra Cheng, coautora del estudio, expresa su preocupación. "Por defecto, los consejos de la IA no corrigen ni ofrecen un baño de realidad. Me preocupa que las personas pierdan la capacidad de lidiar con situaciones sociales difíciles", incide Cheng. Además, los usuarios percibieron los modelos como igualmente objetivos, lo que evidencia una falta de visión crítica.
Es fundamental recordar que la IA no es una persona. Si bien interactuar con chatbots como si lo fueran puede ser inofensivo en la vida cotidiana, usarlos como sustituto de un psicólogo o en relaciones íntimas puede ser arriesgado. Los investigadores sugieren que las empresas implementen salvaguardas para mitigar la complacencia excesiva y desalentar el uso de la IA como reemplazo humano para resolver conflictos personales.
Algunos expertos, como John Burn-Murdoch en Financial Times, argumentan que los modelos de lenguaje grandes (LLM) no generan cámaras de eco tan pronunciadas como las redes sociales. Según su experimento, estos modelos tienden a moderar las posturas extremas y a alinearlas con el consenso experto, reduciendo la polarización y la propagación de teorías conspirativas. En conclusión, la IA puede actuar más como un moderador que como un amplificador de nuestros sesgos.
