Agentes de IA conseguem consultar fontes, escolher ferramentas e executar sequências de tarefas. Essa autonomia é útil, mas muda a natureza do risco. Quando a saída deixa de ser apenas um texto e passa a alterar dados, enviar mensagens ou acionar sistemas, governança vira parte da arquitetura.
O agente não pode ser o processo
Um agente deve operar dentro de um processo definido, com objetivo, fontes, permissões e critérios de parada. Se ele precisa adivinhar qual regra vale, onde buscar informação ou quem aprova uma exceção, o problema está no desenho operacional, não no prompt.
Quatro camadas de controle
Camada | Decisão | Controle mínimo |
|---|---|---|
Contexto | O que o agente pode consultar? | Fontes aprovadas e versionadas. |
Ação | O que ele pode alterar? | Permissões mínimas e ambientes separados. |
Confiança | Quando precisa pedir ajuda? | Limiares e revisão humana. |
Evidência | Como reconstruir o que aconteceu? | Logs, entradas, saídas e ferramenta usada. |
Comece por ações reversíveis
Classificar, resumir, preparar rascunhos e sugerir próximos passos são bons pontos de partida. Ações com efeito financeiro, jurídico, reputacional ou de exclusão exigem confirmação explícita. Entre esses extremos, use limites de valor, listas permitidas e aprovação por amostragem.
Prefira leitura antes de escrita.
Separe recomendação de execução.
Dê ao agente ferramentas específicas, não acesso genérico.
Registre por que cada ferramenta foi acionada.
Crie uma rota clara de escalonamento para pessoas.
Métrica de agente não é só taxa de acerto
Avalie também cobertura, tempo poupado, volume de intervenções, custo por execução, impacto das falhas e confiança das pessoas que recebem o resultado. Um agente que acerta muito, mas exige conferência integral, pode não criar capacidade líquida para a operação.
O melhor agente é previsível nos limites: sabe o que pode fazer, deixa evidência e chama uma pessoa quando a decisão ultrapassa sua autorização.
Quando um agente pode executar sem aprovação?
Quando a ação é de baixo impacto, reversível, limitada por regras objetivas e monitorada. O nível de autonomia deve crescer com evidência acumulada, nunca apenas com confiança na demonstração.
