Cómo funciona
Los logits son valores numéricos que un modelo produce antes de transformar sus puntuaciones en probabilidades. En un modelo de lenguaje, pueden representar el grado de preferencia del modelo por cada token posible en la siguiente posición de la secuencia. Un valor mayor indica una puntuación relativa mayor en ese paso, no una certeza de que el token es correcto.
Para obtener probabilidades comparables, muchos sistemas aplican una función llamada softmax. Convierte el conjunto de logits en valores entre cero y uno, cuya suma es uno. La probabilidad resultante depende del conjunto de alternativas y de la transformación aplicada; no debe confundirse con una medida absoluta de verdad o confianza factual.
La selección del siguiente token puede usar esas probabilidades de formas distintas. Una estrategia puede elegir la opción más probable, mientras que otra muestrea entre alternativas. Parámetros como la temperatura alteran la distribución antes de la elección. Esto cambia el comportamiento de generación, pero no reescribe el conocimiento aprendido por el modelo.
Los logits también aparecen en clasificación. El modelo puede asignar una puntuación a cada clase posible y luego convertirlas en probabilidades o seleccionar la clase con mayor valor. La interpretación correcta depende del entrenamiento y de la calibración, por lo que una puntuación alta no garantiza acierto.
Ejemplo práctico
Supongamos que un modelo debe continuar la frase “El código retornó”. En el siguiente paso, asigna logits a opciones como “un”, “error”, “nulo” y otras posibilidades. El conjunto de puntuaciones se transforma en una distribución y el método de decodificación elige el siguiente token.
Si el sistema siempre elige la puntuación máxima, tiende a seguir la opción localmente más favorecida. Si hace muestreo, también puede aparecer una opción menos probable. El comportamiento observado depende tanto de los logits como de la configuración de generación, del contexto enviado y del modelo usado.
En una clasificación de mensajes, el sistema puede producir logits para categorías como “soporte”, “ventas” y “spam”. Una aplicación puede usar la clase más puntuada, pero si la decisión tiene consecuencias, necesita establecer un umbral y derivar los casos ambiguos a revisión. La puntuación por sí sola no define la política del producto.
Para qué sirve
Los logits son útiles para entender la etapa anterior a la selección de tokens o clases. Quien desarrolla modelos puede inspeccionarlos para depurar la generación, estudiar decisiones, calcular pérdidas durante el entrenamiento o comparar el comportamiento de alternativas.
En las APIs, muchas veces los logits no se exponen al usuario. La persona que integra un modelo normalmente elige parámetros de generación y evalúa la respuesta final. Si una aplicación depende de probabilidades confiables, es necesario verificar si la API ofrece los datos necesarios y si están calibrados para esa tarea.
No confundas logit con probabilidad, token o puntuación de benchmark. El logit es una puntuación no normalizada; la probabilidad surge después de una transformación. Un benchmark mide el desempeño según una tarea y un protocolo. Estos conceptos pueden relacionarse, pero describen etapas y medidas diferentes.
En términos prácticos, conocer los logits ayuda a interpretar el pipeline de generación sin atribuir un significado excesivo a un solo número. El modelo calcula puntuaciones, una función las transforma y un método de decodificación decide qué aparece en la salida. Cada etapa puede influir en el resultado final.