Los chips de IA son procesadores diseñados, o muy bien adaptados, para hacer el tipo de cálculo que exigen los modelos de inteligencia artificial: multiplicar grandes tablas de números, millones de veces, lo más rápido posible.
Cómo funciona
Un modelo de IA es, por dentro, una enorme secuencia de multiplicaciones de matrices. Una CPU común hace pocas operaciones a la vez y se vuelve lenta en esta tarea.
Los chips de IA tienen miles de unidades pequeñas que trabajan en paralelo. Así, hacen muchas cuentas al mismo tiempo. También tienen memoria rápida cerca, porque mover datos suele ser tan caro como calcular.
Existen varias familias. Las GPUs empezaron en los gráficos de juegos y se volvieron estándar en IA. Las TPUs son chips creados por Google para este fin. Las NPUs son unidades de IA integradas en celulares y laptops, orientadas a tareas livianas y bajo consumo.
El software también importa. Bibliotecas como CUDA permiten programar GPUs de NVIDIA y forman parte de la razón por la que estos chips se usan tanto.
Ejemplo práctico
Quieres ejecutar un modelo de lenguaje pequeño en tu computadora. En CPU responde lento. Con una GPU compatible, la respuesta llega mucho más rápido.
nvidia-smiEste comando muestra si existe una GPU NVIDIA disponible y cuánta memoria tiene. La memoria define el tamaño del modelo que cabe en ella.
En un celular con NPU, funciones como la transcripción de audio pueden ejecutarse localmente, sin enviar nada a la nube.
Para qué sirve
Los chips de IA sirven para entrenar modelos, que es la fase más pesada, y para ejecutarlos en el día a día, la llamada inferencia.
Para quien construye productos, el chip define costo, velocidad y dónde puede correr el modelo: en la nube, en un servidor propio o en el dispositivo del usuario.
Para quien solo consume APIs, el impacto se ve de forma indirecta, en el precio y en la velocidad de las respuestas.
Diferencia entre GPU, TPU y NPU
GPU es versátil y muy usada en entrenamiento. TPU es un chip especializado de Google. NPU es la versión pequeña y económica para dispositivos personales. Todas son chips de IA, con enfoques diferentes.