Cómo funciona
La temperatura es un parámetro que se usa en algunos sistemas de generación de texto para ajustar cómo el modelo elige el siguiente token entre las opciones consideradas. En términos generales, una temperatura menor favorece las opciones con mayor probabilidad; una temperatura mayor puede permitir más variación. El efecto exacto depende del modelo y del método de generación.
La temperatura no añade conocimiento ni cambia los pesos del modelo. Modifica el proceso de selección durante la generación. Por eso, dos respuestas producidas con configuraciones distintas pueden variar aunque reciban el mismo prompt.
La temperatura cero suele reducir la variación en los sistemas que aceptan ese valor, pero no garantiza un resultado idéntico en toda API o entorno. Las implementaciones pueden tener diferencias y otros factores también influyen en la salida. Consulta la documentación del proveedor y prueba la configuración real que usa la aplicación.
El parámetro tampoco debe confundirse con la “creatividad” como una capacidad general. Una temperatura alta puede generar opciones variadas, pero también puede hacer la respuesta menos predecible. Una temperatura baja puede dejar la salida más consistente, pero no garantiza que esté correcta.
Ejemplo práctico
Imagina una aplicación que transforma tickets de soporte en una categoría y una justificación breve. En ese flujo, las respuestas estables y fáciles de validar pueden ser más importantes que las frases variadas. El equipo puede comparar configuraciones de temperatura en un conjunto de casos y verificar si la categoría cambia sin motivo.
En otra situación, un equipo busca ideas de nombres para una funcionalidad. Algunas variaciones de respuesta pueden ser útiles como punto de partida. La persona todavía necesita evaluar si las sugerencias tienen sentido, si están disponibles para uso y si respetan las restricciones del producto.
Para probar el efecto, mantén el prompt, el modelo, la versión y los demás parámetros iguales, cambiando solo la temperatura. Registra las salidas y compara la consistencia, la variedad y la tasa de errores con ejemplos relevantes. Una sola respuesta no es suficiente para entender el comportamiento del sistema.
Si el resultado debe seguir un formato riguroso, valida el formato por código en lugar de confiar solo en la temperatura. Si la decisión es importante, usa criterios de evaluación, revisión humana y manejo de fallas.
Para qué sirve
La temperatura sirve para ajustar la variación de las respuestas generadas. Puede ser útil para equilibrar consistencia y diversidad en tareas de clasificación, extracción, redacción o ideación.
No existe un valor universalmente mejor. Una tarea de extracción puede requerir salidas más consistentes; una sesión de brainstorming puede beneficiarse de respuestas diferentes. El parámetro debe elegirse con pruebas que representen el uso real, no solo por una impresión sobre una respuesta aislada.
En sistemas con agentes, la temperatura también puede afectar la previsibilidad del texto que se pasará a herramientas u otros agentes. Cuando el modelo genera comandos, argumentos o datos estructurados, valida la salida y limita las acciones posibles. El control de temperatura no sustituye permisos, sandbox o reglas de negocio.
Al documentar una integración, registra qué proveedor y modelo se usaron, qué parámetros se enviaron y cómo se evaluó la salida. Esto facilita reproducir problemas y comparar cambios de comportamiento al cambiar de modelo o de configuración.