Cómo funciona

Cerebras desarrolla el WSE (Wafer-Scale Engine), un chip del tamaño de un wafer de silicio completo, en lugar de cortar el wafer en varios chips más pequeños. Esto permite colocar más núcleos y memoria en un único procesador.

El WSE-3 tiene 4 billones de transistores y 900 mil núcleos de IA. La memoria on-chip elimina la necesidad de acceder a RAM externa, reduciendo los cuellos de botella de comunicación entre chip y memoria.

La empresa también ofrece Cerebras Cloud, una API de inferencia con velocidad superior a las GPUs tradicionales para modelos grandes.

Ejemplo práctico

Un laboratorio de investigación puede entrenar un modelo de 70 mil millones de parámetros en un único sistema Cerebras, sin necesidad de distribuir el entrenamiento entre decenas de GPUs. El código usa la API compatible con PyTorch:

Python
import cerebras_pytorch as cstorch
import torch

model = MeuModelo()
optimizer = cstorch.optim.AdamW(model.parameters(), lr=1e-4)

# Treinamento em wafer-scale
for batch in dataloader:
    outputs = model(batch)
    loss = criterion(outputs, labels)
    loss.backward()
    optimizer.step()

Para qué sirve

Cerebras sirve para entrenamiento e inferencia de modelos grandes donde la velocidad y la simplicidad de un único chip son ventajosas. Elimina la complejidad de paralelizar entre múltiples GPUs.

Para quienes trabajan con IA a escala, Cerebras ofrece una alternativa a los clusters de GPU tradicionales, con menor latencia de comunicación y mayor eficiencia energética por token procesado.