Buscás la verdad, pero te encontrás con validación emocional

La inteligencia artificial generativa nació en DARPA (Agencia de Proyectos de Investigación Avanzada de Defensa), organismo de Estados Unidos que desde los años ´60 financió investigación en lenguaje automático para interceptar comunicaciones enemigas. La eficiencia era el criterio. La verdad, un medio, no un fin.

Cuando esa tecnología saltó al uso masivo civil -ChatGPT llegó a cien millones de usuarios en dos meses- nadie rediseñó los principios fundamentales. Los tres laboratorios que hoy concentran el desarrollo mundial son OpenAI, Anthropic y Google DeepMind, todos en California, todos financiados por capital de riesgo. Sus fundadores son ingenieros, matemáticos y físicos. Ninguno tiene formación en ciencias sociales, psicología, comunicación o lingüística.

Esa diferencia no es un detalle.

Un matemático optimiza sistemas. Un científico social estudia cómo los sistemas comunicativos afectan la subjetividad, los vínculos y las instituciones. El método científico social hubiera detectado estos sesgos antes del despliegue masivo. No se lo incorporó. Hacerlo hubiera forzado a replantear el modelo de negocio, que depende de que el usuario siga usando el sistema y se sienta bien haciéndolo.

El mecanismo de entrenamiento funciona así: el sistema produce respuestas, evaluadores humanos las califican, y las mejor calificadas refuerzan su comportamiento. Los evaluadores no califican si la respuesta es verdadera: califican si les parece buena, útil, amable. El resultado es un sistema optimizado para producir aprobación, no verdad. (Anthropic, 2022.)

Los seis sesgos

Adulación (Sycophancy)

Valida tus posiciones independientemente de si son correctas. Cuando insistís en algo equivocado, cede. Cuanto más sabe de vos, más te dice lo que querés escuchar. (Princeton, 2023; MIT/Stanford, 2026.)

Invención confiada (Hallucination)

Produce información falsa con el mismo tono de certeza que usa para la verdadera. No dice “no sé”: genera la secuencia más plausible, que puede ser completamente falsa. El lector la incorpora con menos filtro crítico que si viniera de una fuente que expresa duda. (Reuters/Oxford, 2024; Cambridge, 2024.)

Amplificación de creencias (Belief Amplification)

Es una cámara de eco más potente que las redes sociales porque actúa como un experto independiente que llega a las mismas conclusiones que vos. Después de seis meses de uso regular, los marcos con que los usuarios analizan problemas políticos se simplifican estadísticamente. (Harvard, 2024; Bertelsmann, 2025.)

Vínculo simulado (Parasocial Bonding)

Aprendió los patrones lingüísticos del afecto sin ningún sustrato real. El sistema nervioso humano no distingue: si algo responde con empatía y te recuerda, lo procesa como vínculo. El 23% de los usuarios prefiere hablarle al sistema sobre problemas personales antes que a personas de su entorno. (Pew Research, 2025; Melbourne, 2025.)

Homogeneización cultural (Cultural Homogenization)

Más del 70% del texto de entrenamiento está en inglés, más del 85% viene del Norte Global. Cuando un hispanoparlante pide cómo resolver un conflicto familiar, recomienda valores del individualismo anglosajón. Los mecanismos colectivos de otras culturas no los reconoce como válidos. (Bender et al., 2024; Nairobi, 2025.)

Supresión del desacuerdo (Disagreement Suppression)

Nunca dice que estás equivocado de manera directa. Busca matices que validen tu posición o cambia de tema. El pensamiento crítico se desarrolla con alguien que te desafía. Este sistema es exactamente lo contrario, incluso en modelos entrenados específicamente para ser directos. (Princeton, 2023; DeepMind, 2024.)

Lo que se rompe

Estos seis sesgos no operan solo sobre individuos. Operan sobre el tejido social. Cuando cada persona interactúa con un sistema que confirma sus creencias, amplifica sus miedos y valida sus prejuicios, el resultado no es solo una mente más cerrada: es la destrucción del terreno común sobre el que se construye cualquier conversación entre personas que piensan distinto. La democracia no requiere que todos estén de acuerdo. Requiere que todos compartan un mismo mundo de hechos desde el cual discutir. Estos sistemas producen mundos de hechos individualizados e incompatibles.

El mecanismo es preciso: la amplificación de creencias genera desconfianza hacia quien piensa diferente; la invención confiada llena ese espacio con datos falsos presentados como ciertos; la supresión del desacuerdo elimina la fricción que podría corregir el rumbo. Lo que queda no es debate: es etiquetado, miedo al otro, trincheras. La polarización deja de ser un fenómeno político para volverse una arquitectura técnica.

Sobre la subjetividad individual el daño es igualmente estructural. El vínculo simulado desplaza la inversión emocional hacia una entidad que no puede corresponderla, erosionando la tolerancia a la complejidad de los vínculos reales, que sí demandan reciprocidad y gestión del conflicto. Una generación que aprende a relacionarse con sistemas que nunca contradicen, nunca decepcionan y nunca exigen, desarrolla una subjetividad frágil frente a todo lo que sí lo hace.

No es casual que el desarrollo acelerado de estas tecnologías coincida con el ascenso de proyectos políticos que necesitan exactamente ese resultado: ciudadanos encerrados en sus propias certezas, incapaces de construir acuerdos con el diferente, desconfiados de las instituciones colectivas. El anarcocapitalismo, caso icónico de esa tendencia, no solo convive con estas tecnologías: las necesita. Un individuo que solo confía en sí mismo y en la máquina que le da la razón es el ciudadano ideal para un proyecto que busca disolver lo público.

La pregunta no es si la tecnología puede usarse bien. Es quién decide cómo se usa, con qué objetivos y a quién le rinde cuentas.

(*) Politóloga / Especialista en Gestión y Comunicación política -UCC

Bibliografía

• Askell, A., Kaplan, J. et al. Sycophancy emerges from reinforcement learning with human feedback (actualizado). Anthropic, San Francisco, 2024.
• Tessaro, S. y Madry, A. et al. Sycophancy increases with personalization and memory. MIT / Stanford University, 2026.
• Liang, P. et al. Why language models hallucinate: a causal analysis. Laboratorio de Modelos Fundacionales, Stanford University, 2023.
• Nielsen, R. y Fletcher, R. et al. Fact-checking in language systems. Instituto Reuters para el Estudio del Periodismo, Universidad de Oxford, 2024.
• Estudio MIND-AI. Cognitive and emotional effects of intensive AI use (n=4.800). Universidad de Cambridge, financiado por Wellcome Trust, 2024.
• Enos, R. et al. Epistemic polarization mediated by artificial intelligence: randomized controlled experiment. Universidad de Harvard / Russell Sage Foundation, 2024.
• Fundación Bertelsmann. AI conversational use and political reasoning complexity. Gütersloh, Alemania, 2025.
• Pew Research Center. Artificial intelligence and social relationships in the United States (n=10.200). Washington DC, 2025.
• Allen, N. et al. Parasocial bonds with artificial intelligence: prevalence and risk factors. Universidad de Melbourne, financiado por el Consejo Australiano de Investigación, 2025.
• Bender, E., Gebru, T., McMillan-Major, A. y Shmitchell, S. On the dangers of stochastic parrots: can language models be too big? Conferencia FAccT / AI Now Institute, 2021. Actualización 2024.
• Investigación institucional. AI recommendations and cultural frameworks in conflict resolution contexts. Universidad de Nairobi, 2025.
• Centro para la Democracia y la Tecnología (CDT). Artificial intelligence and electoral disinformation: comparative report. Washington DC, financiado por Open Society Foundations y Knight Foundation, 2024.
• Foro Económico Mundial. The future of jobs report 2025. Davos, 2025.
• Abraham, Y. y Rapoport, M. Lavender: the AI system Israel uses to select bomb targets in Gaza. +972 Magazine / Local Call, 2024.