Cómo funciona

En IA, las matrices (y los tensores, que son generalizaciones con más dimensiones) representan datos. Una imagen a color es una matriz de píxeles con tres canales (RGB). Los pesos de una red neuronal son matrices. Operaciones como la multiplicación de matrices son la base de los cálculos en LLMs y otros modelos.

Cuando un LLM procesa una frase, se convierte en tokens. Cada token se vuelve un vector (una fila de números). El conjunto de vectores forma una matriz que pasa por las capas del modelo. Cada capa aplica multiplicaciones de matriz para transformar los datos.

Las GPUs son esenciales porque hacen multiplicación de matrices en paralelo. Una CPU procesa elemento por elemento. Una GPU procesa miles de elementos al mismo tiempo.

Ejemplo práctico

Imagina una imagen de 28x28 píxeles en escala de grises. Es una matriz de 28 filas y 28 columnas, con valores de 0 a 255. Un modelo de visión procesa esa matriz, aplicando filtros (otras matrices más pequeñas) para detectar bordes, formas y patrones.

En un LLM, la frase "o gato dorme" se vuelve tres tokens. Cada token se convierte en un vector de 4096 números (dependiendo del modelo). La matriz resultante tiene 3 filas y 4096 columnas. Esa matriz pasa por las capas de atención y feed-forward del modelo.

Para qué sirve

Entender matrices ayuda a comprender cómo los modelos procesan datos. También explica por qué las GPUs son necesarias y por qué los modelos más grandes requieren más memoria. Para quien trabaja con IA, saber manipular matrices con NumPy o PyTorch es una habilidad fundamental.

Diferencia entre matriz y tensor

Una matriz tiene dos dimensiones: filas y columnas. Un tensor puede tener más dimensiones. Un escalar es un tensor de cero dimensiones. Un vector es un tensor de una dimensión. Una matriz es un tensor de dos dimensiones. Las imágenes son tensores de tres dimensiones (altura, ancho, canales de color).

En la práctica, frameworks como PyTorch y TensorFlow trabajan con tensores. El término matriz se usa de forma más genérica para describir datos organizados en cuadrícula.