Qué es realmente un LLM y por qué no funciona como una biblioteca

La inteligencia artificial no es una tecnología concreta, sino un término general que agrupa sistemas capaces de realizar tareas que asociamos con la inteligencia humana. Reconocer una cara, traducir un texto, conducir un coche o mantener una conversación son problemas muy distintos y deben resolverse mediante diferentes tipos de IA. La que es buena en una cosa no tiene por qué serlo también en otra.

ChatGPT, Claude o Grok son asistentes construidos alrededor de modelos de lenguaje de gran tamaño, los llamados LLM, siglas de Large Language Model. El modelo es el motor que procesa y genera lenguaje. A su alrededor puede haber buscadores, sistemas de memoria, calculadoras, intérpretes de código, filtros de seguridad y otras herramientas.

Conviene distinguir, por tanto, entre el modelo y el producto completo. ChatGPT no es únicamente un LLM, del mismo modo que un ordenador no es únicamente su procesador.

Un LLM se entrena exponiéndolo a cantidades descomunales de texto (libros, artículos, páginas web, código...) para que, a base de repetición, aprenda a predecir qué fragmento de texto debería aparecer a continuación. El principio recuerda al teclado predictivo del móvil, que intenta anticipar la siguiente palabra, aunque un LLM lo hace a una escala y con una complejidad incomparablemente mayores (en este otro artículo explico este concepto en detalle). Estos fragmentos se llaman tokens y pueden ser palabras completas, partes de una palabra, signos de puntuación o combinaciones de caracteres.

Puede parecer un proceso demasiado sencillo para producir resultados tan complejos. Sin embargo, para predecir correctamente el siguiente token en cantidades inmensas de textos, el modelo necesita aprender regularidades gramaticales, relaciones entre conceptos, estilos de escritura, estructuras argumentales y muchos otros patrones presentes en el lenguaje. Dicho de otro modo, el LLM no almacena una lista explícita de reglas, sino que las aprende indirectamente durante el entrenamiento.

Conviene añadir que ese entrenamiento inicial produce un modelo que solo sabe continuar texto. Para convertirlo en un asistente que responde preguntas, sigue instrucciones y rechaza peticiones problemáticas hace falta una fase posterior de ajuste, en la que el modelo aprende, a partir de ejemplos y valoraciones humanas, qué tipo de respuesta se espera de él. Por eso ChatGPT contesta en lugar de limitarse a completar nuestra frase, pero esto es algo que merece por sí solo otro artículo.

Lo importante ahora es entender que en ese entrenamiento, el modelo no almacena los textos que le facilitan como una biblioteca ordenada y preparada para ser consultada. Lo que de verdad hace es modificar miles de millones de valores numéricos, los llamados parámetros, hasta aprender patrones y relaciones presentes en ellos. O sea, que esa biblioteca de la analogía no representa exactamente el modelo, sino su «educación».

Los parámetros tampoco equivalen al número de libros ni al número de veces que el modelo ha aprendido algo. Son los valores numéricos ajustables de la red, algo vagamente comparable a la intensidad de las conexiones entre neuronas. Durante el entrenamiento, cada uno de esos valores puede modificarse una y otra vez hasta que el conjunto consigue predecir mejor el texto. El número de parámetros indica, por tanto, cuántos valores ajustables contiene el modelo, no cuántas modificaciones se han realizado durante su entrenamiento. Un modelo de 100.000 millones de parámetros no ha aprendido 100.000 millones de cosas. Posee 100.000 millones de valores cuyo ajuste conjunto determina cómo procesa y genera el lenguaje.

Así que no, cuando le hacemos una pregunta, el modelo no recorre pasillos buscando el volumen adecuado. Genera la respuesta utilizando los patrones que aprendió durante el entrenamiento y la información que tiene en ese momento dentro de su contexto.

Esto explica también otra diferencia importante. Una persona puede recordar algo mal, mezclar dos recuerdos o rellenar inconscientemente un hueco. Puede dar una respuesta incorrecta aunque todos los libros que hubiera leído fueran perfectos. Un LLM puede producir un resultado parecido. No porque recuerde como un ser humano, sino porque genera una continuación plausible sin disponer necesariamente de un registro documental que le permita comprobar cada afirmación.

Eso es lo que solemos llamar una alucinación. Y el gran problema es que las alucinaciones no son una avería ocasional, sino una consecuencia posible de la forma en que estos modelos generan texto.

Una alucinación no significa necesariamente que hubiera información falsa en el conjunto de entrenamiento. El modelo puede combinar datos correctos de manera incorrecta, atribuir una frase a la persona equivocada, inventar una referencia que parece plausible o responder con demasiada seguridad sobre algo que conoce de forma insuficiente.

Llegados a este punto, mucha gente formula una objeción que, a primera vista, resulta razonable. Si los LLM a veces inventan información, ¿para qué sirven? Yo no quiero preguntar por una resolución judicial y que el modelo se invente la sentencia, ¿verdad?

La respuesta es bastante más matizada y depende de la tarea.

Hay cosas para las que, evidentemente, no deberíamos utilizar sin más un LLM. Un modelo aislado no es una enciclopedia infalible, una base de datos ni una autoridad documental. Tampoco puede garantizarnos por sí solo que una cifra sea exacta, que una cita sea literal, que una sentencia exista realmente o que un dato siga estando actualizado, pero, y esto es importante, eso no lo convierte en inútil. Todo lo contrario.

Un LLM puede ser extraordinariamente eficaz para resumir documentos que le proporcionamos, reescribir textos, traducir, clasificar información, extraer datos, comparar argumentos, explicar conceptos, generar borradores, localizar contradicciones, proponer estructuras o ayudar a escribir código que después pueda probarse.

En esas tareas no dependemos tanto de que el modelo «recuerde» correctamente un dato externo. Trabaja principalmente sobre el material que tiene delante o produce una transformación cuyo resultado podemos revisar.

El riesgo aumenta cuando le pedimos información factual precisa que no aparece en el contexto. Por ejemplo, el contenido exacto de un informe, la jurisprudencia vigente, el estado actual de una investigación, una cifra económica reciente o una referencia bibliográfica concreta. Un LLM puede conocer esos datos y responder correctamente, pero no es una base documental diseñada para garantizar su exactitud, actualidad o procedencia. Esa es la diferencia esencial.

Ahora bien, también podemos proporcionarle fuentes externas para que no dependa exclusivamente de lo aprendido durante el entrenamiento. Una de las formas de hacerlo es mediante los sistemas RAG, siglas de Retrieval-Augmented Generation, o generación aumentada mediante recuperación de información.

En un sistema RAG, primero se busca información en una colección externa de documentos. Después se seleccionan los fragmentos aparentemente relevantes y se incorporan temporalmente al contexto del modelo para que elabore la respuesta a partir de ellos. No se reentrena el modelo ni se añaden permanentemente esos documentos a sus parámetros. Es más parecido a permitirle consultar unos apuntes antes de responder.

Por ejemplo, podríamos conectar un LLM a los informes oficiales de la CIAIAC, el BEA o la NTSB. Ante una pregunta sobre un accidente aéreo, el sistema buscaría los párrafos relevantes, se los proporcionaría al modelo y le pediría que respondiera utilizando esas fuentes.

También podría conectarse a la documentación interna de una empresa, un archivo jurídico, una colección de manuales técnicos o una base personal de conocimientos.

En esos casos, el RAG convierte al modelo en una interfaz para consultar y relacionar documentos. Permite formular preguntas en lenguaje natural, resumir varias fuentes y localizar información que mediante una búsqueda convencional podría resultar difícil de encontrar.

Sin embargo, cuidado: el RAG tampoco garantiza por sí solo una respuesta correcta.

El sistema de recuperación puede seleccionar un documento equivocado, encontrar un fragmento incompleto o utilizar información desactualizada. El modelo también puede interpretar mal el texto, omitir una excepción importante o añadir conclusiones que la fuente no sostiene. Por eso un buen sistema RAG debe mostrar las fuentes, permitir comprobar los fragmentos utilizados y, cuando sea necesario, obligar al modelo a distinguir entre lo que aparece expresamente en los documentos y lo que constituye una inferencia.

Hay, además, tareas en las que el RAG aporta poco. No necesitamos consultar una biblioteca para corregir el estilo de un párrafo, traducir una carta, cambiar el tono de un texto o proponer diez titulares. En cambio, resulta muy útil cuando queremos trabajar con un conjunto documental concreto y verificable, como una colección de informes técnicos, un archivo jurídico o la documentación interna de una organización.

Y más allá del RAG existen otras herramientas.

Un asistente puede utilizar un buscador para obtener información reciente, una calculadora para realizar operaciones exactas, un intérprete de código para analizar datos, una base de datos para recuperar registros concretos o una API para conocer el tiempo, la cotización de una acción o el estado de un vuelo.

Cuando ocurre eso, ya no estamos utilizando únicamente un LLM. Estamos utilizando un sistema compuesto en el que el modelo interpreta la petición, decide qué información o herramienta necesita y redacta la respuesta utilizando los resultados obtenidos.

Esa distinción permite entender por qué un mismo asistente puede comportarse de maneras tan distintas. A veces responde utilizando exclusivamente el conocimiento aprendido durante el entrenamiento. Otras veces trabaja con los documentos que le hemos proporcionado. Y, cuando tiene acceso a herramientas, puede buscar información, ejecutar código o consultar servicios externos antes de contestar.

No todo lo que hace ChatGPT, Claude o Grok lo hace, por tanto, el modelo de lenguaje por sí solo.

Así que, volviendo a la analogía de la biblioteca, quizá la comparación más fiel sería esta:

- La biblioteca es el material con el que el modelo se educó.
- Los parámetros son las huellas matemáticas que dejó ese aprendizaje.
- El contexto son los documentos y las instrucciones que tiene ahora mismo sobre la mesa.
- El RAG es el bibliotecario que vuelve a las estanterías para localizar fuentes concretas.
- Y las herramientas son la calculadora, el ordenador o el buscador que puede utilizar cuando necesita hacer algo que el lenguaje, por sí solo, no puede resolver con garantías.

Comprender estas diferencias nos permite aprovechar aquello en lo que los LLM resultan extraordinariamente útiles y desconfiar de ellos precisamente cuando más convincentes parecen. Son herramientas increíblemente valiosas cuando sabemos utilizarlas... y muy peligrosas cuando no. Por eso, lo que hace mucha gente en Twitter de preguntar a Grok (o a cualquier otro LLM) si algo «es verdad» y asumir su respuesta como válida sin comprobar sus fuentes es como consultárselo a un adivino de feria; puede acertar... o no.