Cómo funciona
La Responsible Scaling Policy (RSP) es la política de Anthropic para escalar modelos de IA de forma segura. Define niveles de capacidad (ASL, AI Safety Levels) y exige que, antes de entrenar o lanzar un modelo más capaz, la empresa implemente medidas de seguridad proporcionales al riesgo identificado.
La idea es que capacidades más altas requieren salvaguardas más fuertes. La política incluye evaluaciones de seguridad, pruebas de red teaming y criterios de pausa: si un modelo alcanza un nivel de capacidad peligrosa sin salvaguardas adecuadas, el entrenamiento o el lanzamiento se interrumpe.
Ejemplo práctico
Antes de entrenar un modelo con capacidades avanzadas de código o biología, Anthropic evalúa si el modelo puede usarse para causar daño (por ejemplo, ayudar en la creación de armas biológicas). Si el riesgo es alto, la empresa implementa filtros, monitoreo y restricciones de acceso antes de continuar. Los resultados y las decisiones se documentan en system cards.
Para qué sirve
La RSP sirve como referencia para la gobernanza de IA en empresas que desarrollan modelos de frontera. Inspira otras políticas del sector y ayuda a clientes y reguladores a entender cómo la empresa gestiona los riesgos de modelos más capaces. Es un ejemplo de compromiso voluntario con la seguridad, que complementa (no sustituye) regulaciones como la EU AI Act.