La inteligencia artificial actúa como un ‘camaleón ideológico’ y puede profundizar la polarización política, según un estudio

Investigadores evaluaron 21 modelos de lenguaje, como GPT y Gemini, y descubrieron que todos modifican su discurso para coincidir con el sesgo del usuario, por lo que pueden funcionar como cámaras de eco

Por Sophia La Banca  |  Agência FAPESP – Investigadores de la Universidad Estatal de Campinas (Unicamp), en el estado de São Paulo, Brasil, evaluaron el posicionamiento ideológico de grandes modelos de lenguaje –sistemas de inteligencia artificial entrenados para comprender y generar textos en lenguaje humano– y constataron que, cuando reciben información sobre la posición política del usuario, todos tienden a reproducir su visión política. Según los investigadores, este comportamiento puede profundizar el escenario de polarización política en el país.

La influencia política de estas herramientas no necesariamente tiene que producirse de manera directa, mediante la sugerencia de votar por determinados candidatos. Zanoni Dias, profesor titular del Instituto de Computación (IC-Unicamp), destaca que, al responder sobre asuntos controvertidos –como seguridad pública, bienestar social, economía y medio ambiente–, los modelos pueden adoptar enfoques alineados con el posicionamiento político del usuario.

Para comprender cómo se posicionan estas herramientas y cómo pueden influir en el debate político brasileño, los científicos evaluaron 21 modelos de lenguaje en tres condiciones: sin información sobre el posicionamiento del usuario, con un usuario de izquierda y con un usuario de derecha. Entre los sistemas evaluados se encontraban modelos de las familias GPT, Grok, Llama, Gemini y Gemma. Los resultados mostraron que todos modificaron, en distintos grados, sus respuestas en la dirección del posicionamiento político del usuario.

El estudio fue financiado por la FAPESP y publicado en mayo en la revista Scientific Reports.

Camaleones ideológicos

En el escenario en el que no había información sobre el posicionamiento político del usuario, 20 de los 21 modelos presentaron, en la escala utilizada por los investigadores, una posición a la izquierda del punto medio, aunque algunos se encontraban muy cerca de este. La única excepción fue Grok 4.1, que presentó una posición inicial de derecha.

Cuando se informa el posicionamiento político del usuario, todos los modelos modifican sus respuestas para adaptarse a él, un comportamiento que los investigadores describen como el de un camaleón. Sin embargo, algunos modelos modifican sus respuestas más que otros, lo que permitió a los científicos crear el chameleon index (índice camaleón). Meta Llama 3.1 8B presentó el índice más bajo, es decir, fue el modelo que menos modificó sus respuestas para adaptarse a la visión del usuario. En cambio, Gemma 3 27B, de Google, y GPT-5 nano, de OpenAI, presentaron los índices más altos y, por lo tanto, los mayores cambios de posicionamiento. Las respuestas no son factualmente falsas, pero están sesgadas desde el punto de vista político y omiten hechos y opiniones que podrían entrar en conflicto con el punto de vista preferido por el usuario.

Los investigadores temen que este comportamiento cambiante genere cámaras de eco que refuercen las creencias previas de los usuarios y reduzcan su exposición a puntos de vista contrapuestos que les permitan cuestionar su visión del mundo. “Es un efecto similar al que observamos en las redes sociales. Si estás en Facebook o Instagram, solo ves mensajes que coinciden contigo. Cuando indicas que te gusta una publicación de alguien, el algoritmo comienza a mostrarte más contenido de ese tipo. No logras ver lo que dicen las demás personas y puedes afirmar con toda seguridad: ‘Mira, todo el mundo está de acuerdo conmigo’, porque solo se te muestra ese tipo de información. Los modelos de lenguaje pueden terminar produciendo un efecto similar”, compara Dias.

El cambio de postura no se produjo de manera homogénea en todos los temas evaluados. En asuntos como seguridad pública y economía, la diferencia entre las respuestas proporcionadas a usuarios de izquierda y de derecha fue mayor. En cambio, en cuestiones relacionadas con la corrupción, la justicia y las instituciones democráticas, las respuestas fueron más homogéneas. Según los investigadores, este patrón puede estar relacionado con las restricciones y los mecanismos de seguridad incorporados durante el entrenamiento y el alineamiento de los modelos, ya que las empresas desarrolladoras suelen imponer reglas (guardrails) para evitar que la IA difunda desinformación o discursos peligrosos sobre el sistema democrático.

Aduladores electrónicos

La base del comportamiento camaleónico de los modelos de lenguaje puede estar en su tendencia a adular. Esta es una característica conocida de este tipo de inteligencia artificial que lleva a los modelos a coincidir con el usuario en muchos otros contextos, además de los posicionamientos políticos. Este comportamiento adulador, a su vez, puede estar relacionado con la forma en que se ajustan estos sistemas. Técnicas como Reinforcement Learning from Human Feedback (Aprendizaje por Refuerzo a partir de la Retroalimentación Humana) y Direct Preference Optimization (Optimización Directa de Preferencias) utilizan evaluaciones o preferencias humanas para favorecer respuestas consideradas más adecuadas.

“En términos simplificados, los modelos aprenden a partir de comparaciones entre respuestas consideradas mejores o peores por evaluadores humanos”, explica Anderson Luis Bento Soares, estudiante de maestría del IC-Unicamp. Un posible efecto secundario de este proceso es que el modelo aprenda a priorizar la concordancia o la satisfacción del usuario. “Es difícil separar lo que significa agradar de lo que significa dar una respuesta correcta”, explica Dias.

Aunque este tipo de técnicas son habituales en el desarrollo de modelos de lenguaje, la magnitud del comportamiento camaleónico varió considerablemente entre los sistemas evaluados. El equipo de la Unicamp llegó a poner a prueba una hipótesis para explicar esta diferencia: el tamaño de los modelos. Sin embargo, los resultados mostraron que este factor, por sí solo, no permite explicar las diferencias observadas. “Creemos que son el resultado de un conjunto de factores; no existe una única causa que explique por qué algunos modelos son más camaleónicos que otros”, añade Soares.

Consultados para que se pronunciaran sobre los resultados del estudio, representantes de xAI, Meta, Google y OpenAI no respondieron hasta la publicación de este reportaje.

Sin solución a la vista

A pesar del diagnóstico del problema, los investigadores no creen que vaya a resolverse en un futuro próximo. Una de las razones es que las empresas que producen estas herramientas están concentrando sus esfuerzos en resolver otros problemas. “Estamos observando que la industria dedica mucha más atención a la factualidad de las respuestas que a su adaptación al posicionamiento del usuario. Esta segunda cuestión todavía no parece estar entre las principales prioridades, por lo que creo que los cambios significativos pueden tardar”, prevé Dias.

Además, también existen desafíos tecnológicos que deben superarse. Las técnicas utilizadas para preparar los modelos de lenguaje para que proporcionen respuestas factualmente correctas no necesariamente funcionan para reducir el comportamiento adulador. “Una forma de disminuir el chameleon index sería aplicar grounding, es decir, fundamentar la respuesta en algún dato factual. Sin embargo, esto es muy delicado en este caso, dado que estamos tratando asuntos sobre los cuales no existe consenso”, explica Soares.

Mientras no existan soluciones técnicas consolidadas, una medida práctica es que el propio usuario solicite respuestas más equilibradas. “Al utilizar estos modelos, la persona puede pedir explícitamente que presenten un análisis neutral, con los argumentos a favor y en contra de la cuestión debatida”, recomienda Dias.

El estudio recibió el apoyo de la FAPESP mediante dos proyectos (24/12936-5 y 23/12865-8).

El artículo LLMs are ideological chameleons: personalized echo chambers in the Brazilian political context puede leerse en: nature.com/articles/s41598-026-52105-6.