Como funciona
Aprovação de ferramenta é uma etapa de controle que exige autorização antes de um agente de IA executar uma ferramenta ou ação. A ferramenta pode ler arquivos, chamar uma API, alterar um registro, enviar uma mensagem ou iniciar uma operação. A regra determina quais ações podem seguir automaticamente e quais precisam de confirmação.
O fluxo costuma apresentar à pessoa o que o agente pretende fazer, quais dados serão usados e qual sistema será afetado. A pessoa pode aprovar, rejeitar ou pedir uma revisão. Em implementações automatizadas, uma política também pode autorizar ações de baixo risco e bloquear outras sem pedir confirmação a cada vez.
Uma aprovação útil precisa ser específica. Um pedido genérico como “autorizar acesso” não explica se o agente vai apenas ler um arquivo ou sobrescrevê-lo. O sistema deve mostrar a ferramenta, os parâmetros relevantes e o efeito esperado, sem expor segredos desnecessários. Também deve registrar quem aprovou e o resultado da ação.
O controle precisa ser aplicado no ponto em que a ação acontece, não apenas em uma mensagem de instrução ao modelo. Se a IA puder chamar a ferramenta por um caminho alternativo, a regra pode ser contornada. Por isso, permissões e validações devem existir na camada que executa a chamada.
Exemplo prático
Um agente de programação analisa um projeto e propõe editar um arquivo. A equipe permite leituras e testes em um ambiente isolado, mas exige aprovação antes de sobrescrever configurações ou enviar alterações para um repositório compartilhado.
Quando o agente tenta executar a ação protegida, a interface apresenta o arquivo afetado e a mudança planejada. O desenvolvedor confere o diff, verifica se a alteração está dentro do escopo e então aprova ou rejeita. Caso aprove, o sistema registra a decisão e continua o fluxo. A autorização deve valer apenas para aquela ação ou para um escopo claramente definido, não para qualquer operação futura.
Em uma operação de atendimento, um agente pode preparar uma resposta sem aprovação e pedir confirmação antes de conceder um reembolso. A regra combina o impacto da ação com o papel da pessoa autorizada. Se houver dúvida sobre identidade, valor ou política, o agente deve interromper o fluxo e encaminhar o caso.
Para que serve
A aprovação de ferramenta reduz o risco de ações inesperadas em sistemas com agentes. É especialmente importante para operações que alteram dados, acessam informações protegidas, geram compromissos externos ou são difíceis de reverter. Ela também pode ajudar a separar atividades de preparação de atividades de execução.
Não é necessário interromper cada passo do agente. Muitas confirmações triviais criam fadiga e podem levar pessoas a aprovar sem ler. Defina níveis de risco: ações de leitura podem ter permissões limitadas; mudanças reversíveis podem ser registradas; e operações externas ou destrutivas podem exigir revisão explícita.
A equipe deve planejar também rejeição, expiração e falha de aprovação. Se ninguém responder, o agente não deve interpretar silêncio como autorização. Se a ação mudar depois da aprovação, peça nova confirmação. Registros devem permitir entender o que foi solicitado, o que foi autorizado e o que realmente ocorreu.
A aprovação de ferramenta funciona melhor junto com limites de acesso, sandbox, validação de entradas e monitoramento. Ela não prova que a ação está correta; apenas estabelece um controle antes da execução. A pessoa que aprova ainda precisa de contexto suficiente para avaliar o impacto.