Alucinaciones y modelos de lenguaje

🌐 Cambiar Idioma

• 🇪🇸 Español
• 🇬🇧 English

Mostrar animación original

1. Alucinaciones y LLMs

Un problema de los Modelos de Lenguaje Grande (LLMs) son las alucinaciones. Estas se refieren a la generación de contenido falso, fabricado o inconsistente con los datos con los que se ha entrenado el modelo. Todos los que utilizamos estos sistemas hemos observado cómo puede generar afirmaciones que suenan correctas, pero no tienen sustento.

2. Mitigación de las Alucinaciones

Para afrontar el problema de las alucinaciones se han implementado diversas técnicas como:

• Chain-of-Thought Prompting (Cadena de razonamiento). Esta técnica guía al modelo para que haga explícito su razonamiento paso a paso antes de llegar a una respuesta.
• Self-Consistency (Autoconsistencia). Genera múltiples respuestas a una misma pregunta utilizando cadenas de razonamiento (Chain-of-Thought) y selecciona la respuesta más común o consistente entre las generadas.
• Retrieval-Augmented Generation (RAG). Combina el modelo de lenguaje con un sistema de recuperación de información. Antes de generar una respuesta, el modelo busca datos relevantes en una base de conocimiento externa.

Si bien estas técnicas reducen el nivel de las alucinaciones, el problema persiste. La pregunta es si es posible eliminar totalmente las alucinaciones, lo cual lleva al trabajo de investigación “LLMs Will Always Hallucinate, and We Need to Live With This” donde se da una respuesta negativa, considerando a las alucinaciones un elemento estructural de estos sistemas.

3. Alucinaciones como un problema estructural

En “LLMs Will Always Hallucinate, and We Need to Live With This” se busca establecer que las alucinaciones en los modelos de lenguaje grande (LLMs) no son errores esporádicos, sino una característica inevitable debido a las limitaciones matemáticas y lógicas inherentes de estos sistemas.

¿Cuáles son estas limitaciones matemáticas y lógicas?
Estos investigadores utilizan la Teoría de la Computación, el Teorema de Incompletitud de Gödel y problemas indecidibles como el Halting Problem para argumentar que ninguna mejora en datos o en mecanismos de verificación puede eliminar completamente estas alucinaciones.

Estas “alucinaciones estructurales”, como lo define este paper, no se deben a errores en los datos de entrenamiento o fallos en la implementación: son intrínsecas al sistema y no pueden ser eliminadas completamente.

4. Gödel y las alucinaciones de las LLMs

El Teorema de Incompletitud de Gödel establece que en cualquier sistema formal suficientemente poderoso (como los modelos matemáticos que subyacen a los LLMs) se presentan proposiciones que no pueden ser demostradas ni refutadas dentro del sistema.

Los modelos de lenguaje grande funcionan como sistemas formales: procesan datos para generar salidas basadas en reglas lógicas y probabilísticas. Sin embargo, debido a su naturaleza, comparten las limitaciones señaladas por Gödel:

La prueba del texto se basa en lo siguiente:
Suposición inicial: Supongamos que existe un conjunto de datos de entrenamiento D que contiene todos los hechos verdaderos posibles. Se introduce al conjunto una proposición A que dice:
“Existen hechos verdaderos que no están en D”.

En ese caso, si esta afirmación es falsa, no existen hechos verdaderos fuera de D. Sin embargo, esto implica que D es falsa porque incluye A.
En el caso de que A fuera verdadera, entonces existen hechos fuera de D que son verdaderos, lo que refuta la idea de que D sea completo.

5. El Problema de Halting (Halting Problem)

La segunda herramienta utilizada para demostrar la inevitabilidad de las alucinaciones estructurales es el Problema de Halting, uno de los más fundamentales e indecidibles en la teoría de la computación.

Dado un programa P y una entrada x, ¿es posible determinar, en un tiempo finito, si P se detendrá (es decir, terminará su ejecución) o continuará ejecutándose indefinidamente?

Turing demostró que no existe un algoritmo general que pueda decidir, para todos los programas y entradas posibles, si un programa se detendrá o no. Esto implica que los sistemas computacionales no pueden prever su propio comportamiento en todas las circunstancias.

Los modelos de lenguaje, como sistemas computacionales complejos basados en transformadores, comparten la naturaleza de las máquinas de Turing. Esto implica que el problema de la parada conlleva consecuencias como:

• Indecidibilidad del límite de generación: Los LLMs no pueden determinar con certeza cuántos tokens generarán en respuesta a una entrada dada.
• Imprevisibilidad del contenido generado: Debido a la indecidibilidad del halting, los modelos no pueden prever el contenido exacto que generarán. Esto aumenta la probabilidad de respuestas incorrectas o alucinadas.
• Ausencia de verificación previa: Al no poder predecir sus propias salidas antes de generarlas, los LLMs no pueden validar la veracidad o consistencia de su respuesta antes de producirla.

6. Alucinaciones y el problema de encontrar una aguja

Este problema aborda la capacidad (o incapacidad) de los LLMs para seleccionar la información correcta dentro de un vasto conjunto de datos.

El problema plantea:
Dado un gran conjunto de datos (el pajar) y una solicitud de información específica (la aguja), ¿puede un modelo de lenguaje recuperar de manera confiable y precisa esa aguja?

El texto demuestra que este problema es indecidible, lo que significa que no existe un método que garantice que un modelo siempre recuperará la información correcta; lo cual profundiza el problema de las alucinaciones.

LLMs Will Always Hallucinate