Perguntas de CIOs · Agentes & automação
Quanto de autonomia devo dar a um agente?
A resposta curta
Autonomia deve ser proporcional ao risco, à reversibilidade e à confiança. Consultar dados pode ser automático. Produzir uma recomendação também. Realizar pagamento, alterar prontuário, aplicar punição ou assumir obrigação contratual pode exigir aprovação. O desenho correto não é “humano ou IA”; é determinar onde o julgamento humano produz valor ou controla risco.
Como decidir
- Consultar dados → automático
- Recomendar → automático, revisado por amostragem
- Pagar, alterar registro, punir, obrigar → aprovação humana
- Autonomia cresce com risco baixo, reversibilidade e confiança
O princípio Onni
Humano no circuito conforme o risco.
A arquitetura por trás
- Política
- Nível de risco
- Decisão humana
- Auditoria