Como funciona
A Responsible Scaling Policy (RSP) é a política da Anthropic para escalar modelos de IA de forma segura. Ela define níveis de capacidade (ASL, AI Safety Levels) e exige que, antes de treinar ou lançar um modelo mais capaz, a empresa implemente medidas de segurança proporcionais ao risco identificado.
A ideia é que capacidades mais altas exigem salvaguardas mais fortes. A política inclui avaliações de segurança, testes de red teaming e critérios de pausa: se um modelo atingir um nível de capacidade perigosa sem salvaguardas adequadas, o treino ou o lançamento é interrompido.
Exemplo prático
Antes de treinar um modelo com capacidades avançadas de código ou biologia, a Anthropic avalia se o modelo pode ser usado para causar dano (por exemplo, auxiliar na criação de armas biológicas). Se o risco for alto, a empresa implementa filtros, monitoramento e restrições de acesso antes de prosseguir. Os resultados e as decisões são documentados em system cards.
Para que serve
A RSP serve como referência para governança de IA em empresas que desenvolvem modelos de fronteira. Ela inspira outras políticas do setor e ajuda clientes e reguladores a entender como a empresa gerencia riscos de modelos mais capazes. É um exemplo de compromisso voluntário com segurança, complementando (não substituindo) regulações como a EU AI Act.