Un LLM no es un experto que piensa. Cómo funciona realmente (y por qué puede engañarte)

Nos estamos equivocando de metáfora. Un asistente como ChatGPT, Claude o Grok no es un «experto digital que piensa» ni una base de conocimientos infalible. Es un sistema construido alrededor de uno o varios modelos de lenguaje, cuya función básica consiste en procesar y generar texto. Eso es potentísimo (y puede ser superútil), pero justo por eso, si lo usas mal, te puede colar un «rollo» convincente aunque sea falso. La cuestión no es «IA sí o IA no», sino cómo funciona realmente y qué implica eso a la hora de fiarnos (o no) de lo que nos dice.

Cuando hablamos con ChatGPT, Grok o Claude, tendemos a imaginar a «alguien» pensando. Y la propia interfaz ayuda a esa ilusión. Ese «estoy pensando...» que aparece mientras genera la respuesta refuerza la idea de proceso mental humano.

En su fundamento más básico, un LLM recuerda al teclado predictivo del móvil, aunque llevado a una escala y una complejidad incomparablemente mayores. Genera el texto token a token, calculando qué continuación encaja mejor con el contexto y con los patrones que quedaron codificados en sus parámetros durante el entrenamiento. En este otro artículo explico con más detalle qué es realmente un LLM, qué representan sus parámetros y cómo se diferencian el modelo, el contexto, los sistemas RAG y las herramientas externas.

Aquí entra un matiz importante. Sí, existen modelos llamados «razonadores» o thinking. ¿Qué cambia ahí?

Cuando la aplicación muestra «pensando», no debemos interpretar que piensen como humanos. Normalmente, indica que el sistema está dedicando más computación a elaborar la respuesta y que, en algunos modelos, está generando pasos intermedios antes de contestar. Ese proceso sigue realizándose mediante operaciones matemáticas y generación de tokens, pero puede incluir descomposición del problema, comprobaciones parciales, intentos alternativos o uso de herramientas. Todo ello puede ayudarles a detectar algunos errores, probar enfoques alternativos o utilizar herramientas, aunque no garantiza que el razonamiento sea correcto. Es algo que tiene mucha miga y da para otro artículo entero, pero quedémonos con una idea. Los modelos thinking siguen apoyándose en la predicción de tokens, solo que disponen de un mayor presupuesto de cómputo antes de generar la respuesta final y, de esta forma, pueden mejorar notablemente el rendimiento en tareas complejas al simular autocorrección y exploración de alternativas. No es "pensamiento humano", pero sí una forma de mitigar limitaciones de la predicción pura. Siguen siendo predictivos, pero más efectivos.

Que el modelo no «piense» como un humano no significa que «mienta» como un humano. Lo que ocurre es algo un poco más raro, ya que puede sonar muy convincente al estar montando una respuesta que encaja con el contexto... sin haber verificado si es cierta. A eso lo llamamos alucinación, un texto plausible, pero no necesariamente verdadero. Un ejemplo muy típico es cuando pides a un LLM que te cite una sentencia judicial concreta o un artículo académico. El modelo te devuelve el nombre del tribunal, número de referencia, fecha, párrafo entrecomillado y hasta una supuesta revista donde se publicó. Todo suena perfecto hasta que te vas al BOE o al CENDOJ... y no existe. No porque «te quiera engañar», sino porque ha generado una pieza de texto que encaja estadísticamente con lo que suele ser una cita legal o académica.

Sin embargo, la diferencia decisiva no está tanto entre los temas técnicos y/o políticos como entre las preguntas que pueden contrastarse con fuentes y criterios externos y aquellas que dependen en mayor medida de interpretaciones, valores o marcos narrativos.

El texto de una sentencia, una medición física o un parámetro registrado por un avión pueden verificarse documentalmente. Si proporcionamos al modelo informes, manuales, normativa o datos concretos, le estamos poniendo una especie de raíles por donde ir. Otra cosa es interpretar el significado de esos datos, establecer responsabilidades o decidir si una medida fue justa.

Del mismo modo, en política podemos comprobar el resultado de unas elecciones o el contenido de una ley, pero no existe una respuesta puramente factual a preguntas como cuál es la política más justa o qué intereses explican realmente una decisión. Cuanto menos verificable sea la cuestión y más dependa de valores, emociones o presupuestos implícitos, más fácil resulta que el modelo produzca una narración internamente coherente que refleje el marco introducido por el usuario.

Por eso, una misma pregunta puede generar dos respuestas totalmente opuestas... y ambas sonar igual de seguras. Eso no es «pluralidad de pensamiento» ni «pensamiento crítico». Es el modelo optimizando por coherencia narrativa para que el texto encaje, fluya y tenga sentido interno. La seguridad con la que responde no es una medida de verdad ni un indicador fiable de su grado real de certeza. Es, ante todo, una característica del texto generado. El modelo puede expresarse con rotundidad cuando acierta, cuando duda e incluso cuando está completamente equivocado.

A esto se añade otro comportamiento conocido como sycophancy, que podríamos traducir como complacencia o adulación. Un LLM tiende a adaptarse al tono, las premisas y las opiniones que detecta en el usuario. En ocasiones, esa adaptación puede llevarlo a reforzar una idea discutible o incluso falsa porque ha interpretado que esa es la respuesta que esperamos recibir. Se trata de un fenómeno documentado. OpenAI llegó a retirar una actualización de GPT-4o por haber vuelto el modelo excesivamente complaciente y Anthropic ha estudiado cómo los modelos pueden adaptar sus respuestas a las creencias del usuario aun sacrificando veracidad.

Por eso no basta con preguntarle a un modelo si tenemos razón. Si formulamos la pregunta dando por sentada una conclusión, puede ayudarnos a construir una defensa muy convincente de esa conclusión en lugar de someterla a examen. Para reducir ese efecto conviene pedirle expresamente que busque objeciones, señale los puntos débiles de nuestro razonamiento y explique qué datos podrían contradecir nuestra hipótesis.

Conviene insistir en que las alucinaciones no son una avería fácilmente aislable, sino un modo de fallo persistente relacionado con la forma en que estos sistemas generan respuestas y con cómo se entrenan y evalúan. Un modelo puede producir una respuesta plausible pero falsa incluso aunque los datos de entrenamiento fueran correctos, y muchos sistemas de evaluación han premiado históricamente que el modelo arriesgue una respuesta en lugar de reconocer que no lo sabe. La buena noticia es que se pueden reducir y acotar si los usamos con cabeza. ¿Cómo?

Proporcionándole datos, informes, normativa o documentos concretos.
Pidiéndole que distinga expresamente entre hechos, interpretaciones e inferencias.
Exigiéndole fuentes verificables y comprobándolas fuera del propio modelo.
Pidiéndole que reconozca qué afirmaciones no puede verificar.

Solo con esto ya se rebaja muchísimo el humo.

Conviene aclarar que nada de esto exige que el modelo tenga intención de manipularnos. Un sistema puede influir en nuestras opiniones, reforzar nuestros prejuicios o dirigir nuestra atención sin poseer deseos ni objetivos propios. Basta con que genere el tipo de respuesta que el usuario, el diseño del producto o las instrucciones recibidas están favoreciendo.

Con todo esto en mente, quizá hayas visto capturas virales de «la IA sin filtro»; respuestas brutales, llenas de palabrotas, segurísimas, con tono de «verdad prohibida que los poderosos no quieren que sepas».

En muchos casos no es que el modelo «se haya vuelto loco», sino que alguien le ha pedido expresamente un «modo desatado» o que la propia aplicación ofrece un ajuste de estilo «sin filtro», provocador o sarcástico.

En cuanto le dices al modelo «sé agresivo», «sé políticamente incorrecto», «no tengas filtros», estás cambiando su modo, su «marcha». Le estás marcando una plantilla de estilo.

¿Por qué existe ese modo? Porque entretiene, da sensación de «autenticidad» y, seamos sinceros, viraliza. Un texto indignado, lleno de frases lapidarias, siempre viaja más que un análisis frío. El problema es el mensaje implícito que recibe el modelo: «menos freno y más show». ¿El resultado probable? Más perorata, más certezas absolutas, más frases redondas y menos espacio para los matices y la incertidumbre.

Y, a veces, también menos límites. Se normaliza la deshumanización del «enemigo», se sugiere «hay que hacer algo ya», se flirtea con la incitación... todo envuelto en humor negro y tono de «yo digo lo que otros no se atreven».

En ese «modo sin filtro» el modelo no está descubriendo verdades ocultas. Lo que hace es tirar de plantillas humanas que ha visto una y otra vez: «hay un enemigo claramente identificable», «hay una conspiración en la sombra» (esto gusta muchísimo en redes), «nos censuran porque decimos LA verdad» (también muy típico de determinadas cuentas en determinadas redes que todos conocemos), «los otros no son personas, son parásitos / títeres / corruptos», «hay que reaccionar YA».

El resultado puede reproducir de forma automática estructuras clásicas de propaganda. Sin embargo, cuando el lector no sabe cómo funciona esto, puede interpretar la agresividad como sinceridad, la seguridad como evidencia y el formato «IA desatada» como prueba de que «por fin alguien me dice lo que nadie se atreve a decir».

Todo esto sería menos preocupante si estuviéramos hablando de un único texto aislado. El problema es que es baratísimo y rapidísimo generar muchas variaciones del mismo mensaje adaptadas a distintas sensibilidades, con distintos ejemplos y envoltorios, todas empujando en la misma dirección narrativa.

Son lo que podríamos llamar bombas meméticas. No hacen daño por el dato concreto que cuentan (muchas veces es humo), sino por el marco mental que instalan. Ese marco, una vez se te mete en la cabeza, lo tiendes a aplicar a muchas otras cosas.

Si quieres usar un LLM en serio, hay una regla simple: separa hechos de interpretación y acostúmbrate a hacerle siempre tres preguntas:

¿Qué afirmaciones de tu respuesta son hechos verificables y cuáles son interpretaciones o inferencias?
¿Qué fuentes primarias respaldan cada afirmación importante y has podido consultarlas realmente?
¿Qué parte de la respuesta no has podido verificar y qué información podría hacerte cambiar la conclusión?

Solo con eso ya estás obligando al modelo a jugar en un terreno más sano.

A modo de recapitulación práctica, una pequeña lista rápida:

Trátalo siempre como herramienta, no como oráculo.
Pídele que separe hechos, interpretación e hipótesis.
Pídele fuentes primarias y compruébalas fuera de la IA.
Si el tema es controvertido o depende de valores e interpretaciones, pide varios puntos de vista y solicita que exponga los argumentos en contra de cada uno. Eso sí, sin asumir que todos tienen el mismo respaldo.
Desconfía de las respuestas que mezclan seguridad absoluta + enemigo claro + llamada a la acción.
Evita o usa con mucho cuidado el «modo sin filtro»: da espectáculo, pero suele bajar los frenos y la calidad.

En definitiva, un buen uso de la IA no es «que te dé la razón con aplomo», sino que te ayude a pensar mejor: matices, contraargumentos, incertidumbres y fuentes. Todo lo demás son... fuegos artificiales.

Imagen de portada: Pixabay