Cómo funciona
Un system card (tarjeta de sistema) es un informe publicado por la empresa que entrenó el modelo. Documenta qué hace el modelo, en qué tareas fue evaluado, qué riesgos se identificaron (sesgo, capacidades peligrosas, fallas) y qué medidas de seguridad se aplicaron antes del lanzamiento.
A diferencia del model card, que se centra en el modelo en sí (datos de entrenamiento, métricas de benchmark), el system card se enfoca en el sistema completo: el modelo más las capas de seguridad, filtros y políticas de uso que lo acompañan en producción.
Ejemplo práctico
Cuando una empresa lanza un modelo nuevo, publica un system card con secciones como: descripción del modelo, evaluaciones de capacidad (razonamiento, código, visión), evaluaciones de seguridad (red teaming, jailbreaks, CBRN), limitaciones conocidas y política de uso. Investigadores y empresas que integran el modelo leen este documento para decidir si sirve para su caso de uso y qué cuidados tomar.
Para qué sirve
Los system cards sirven para transparencia y gobernanza. Permiten que clientes, auditores y reguladores comprendan los riesgos de un modelo antes de adoptarlo. También ayudan a comparar proveedores y a cumplir requisitos de conformidad, como el EU AI Act y políticas internas de riesgo.