Um agente prepara pagamentos e envia cada um para aprovação antes de executar. Existe uma pessoa no loop. Essa pessoa recebe algumas centenas de pedidos por dia, e cada pedido mostra o valor e um botão. Não mostra por que o pagamento foi criado, quais dados o agente usou nem o que saiu do padrão.
A etapa humana existe. A pergunta que importa é qual decisão essa pessoa consegue tomar.
Supervisão humana custa atenção, e atenção é um recurso finito com preço. Quando a empresa gasta esse recurso confirmando o que já estava certo, ele deixa de existir no momento em que uma decisão cara aparece. O desenho da supervisão, então, não é uma questão de segurança abstrata. É uma decisão de alocação.
A fila de aprovação gasta atenção onde ela rende menos
Se toda ação exige aprovação, o fluxo parece conservador. O efeito prático é outro. Ações de baixo impacto e decisões de consequência alta passam a competir pela mesma fila, no mesmo formato, com o mesmo tempo de tela.
A AWS trata supervisão uniforme como erro de desenho na sua orientação para agentes. Aplicar o mesmo nível de revisão a todas as ações cria gargalo nas atividades rotineiras e deixa as decisões de maior consequência sem a atenção adequada. O guia de IA agentiva do Governo do Canadá recomenda planejar quanto de supervisão será necessário e como ela será sustentada, e cita de forma explícita a fadiga de human in the loop como problema a considerar quando o uso de agentes cresce.
O custo aparece dos dois lados. De um lado, processos rotineiros param esperando um clique que não muda nada. Do outro, a decisão que precisava de julgamento chega na posição 180 de uma fila. Mais revisão não produz melhor revisão.
O revisor erra na direção do sistema, não contra ele
Existe um segundo motivo para não tratar aprovação humana como garantia. Pessoas tendem a aceitar recomendação automática com menos questionamento do que ela merece. O comportamento tem nome, viés de automação, e aparece citado de forma expressa no AI Act europeu ao tratar da supervisão de sistemas de alto risco. A norma determina que as pessoas responsáveis pela supervisão permaneçam atentas à tendência de confiar ou depender demais das saídas do sistema.
Uma revisão publicada em 2025 na AI & Society analisou estudos sobre dependência excessiva de recomendações de IA e encontrou que o comportamento varia com experiência, confiança, complexidade da verificação e forma como a informação é apresentada. A interface, portanto, faz parte do controle. Um sistema que apresenta a resposta como certa, esconde a incerteza relevante ou torna a verificação cara empurra o revisor para a confirmação.
Isso muda o que a empresa deveria medir. Contar aprovações registra atividade. Verificar se o revisor teve condição de discordar registra controle.
Aprovar antes serve quando o efeito é difícil de desfazer
A divisão a seguir é uma proposta consultiva da WatchZ. Ela organiza quatro funções distintas da supervisão humana, e cada uma resolve um problema diferente.
A primeira função é decidir antes que o agente produza consequência. Ela faz sentido quando existe uma escolha que exige julgamento e quando a intervenção acontece antes de um efeito caro de reverter. Pagamento acima de um limite, cancelamento de contrato, alteração de preço público e concessão de acesso entram nessa categoria.
O objetivo não é registrar uma assinatura humana no processo. É permitir que alguém avalie uma decisão que ainda pode mudar. Quando a ação já produziu efeito, a aprovação virou registro contábil.
Encaminhar exceção troca volume por relevância
A segunda função inverte o padrão. O processo segue dentro de condições conhecidas e só a exceção chega a uma pessoa. Uma exceção aparece quando uma regra entra em conflito com outra, quando falta informação necessária ou quando o caso sai do padrão previsto.
Nesse desenho a pessoa não revisa tudo. Ela recebe os casos em que o julgamento acrescenta algo que o fluxo automático não resolve com segurança. O ganho econômico é direto. A mesma hora de atenção passa a cobrir dez decisões difíceis em vez de quatrocentas triviais.
O alerta convoca quem não precisava acompanhar o fluxo
A terceira função começa fora do fluxo. O agente trabalha, o monitoramento observa, e certos sinais param o processo ou pedem intervenção. Um limite ultrapassado, um comportamento inesperado, um controle técnico que detecta algo fora da regra.
Aqui a pessoa não acompanha cada passo. Ela precisa conseguir entrar a tempo quando o sistema mostra que algo merece atenção, o que transfere o requisito para o desenho do alerta. Alerta que dispara sempre treina a organização a ignorá-lo, e alerta que nunca dispara não é controle.
A amostra encontra o erro que nenhuma regra previu
A quarta função acontece depois da execução. Nem todo erro pode ser antecipado antes da operação começar, e parte da supervisão serve justamente para descobrir padrões, desvios e problemas que os controles existentes não conhecem.
O guia do Governo do Canadá recomenda verificações ocasionais e comparação entre o resultado do agente e o trabalho de especialistas humanos, para perceber perda de qualidade ou mudança de comportamento. Essa revisão não bloqueia ação nenhuma. Ela responde se os controles continuam funcionando, e é a única das quatro funções que detecta a degradação silenciosa.
Quatro condições dizem se um ponto de aprovação funciona
Antes de adicionar uma etapa de aprovação, vale testá-la contra quatro perguntas.
A pessoa sabe o que precisa avaliar. Sem saber qual risco procurar, a revisão fica superficial por construção.
A pessoa recebe informação suficiente para decidir. Mostrar só a conclusão raramente basta. Dependendo do caso, ela precisa da ação proposta, dos dados relevantes, das regras aplicadas e do que saiu do padrão.
A pessoa consegue discordar de verdade. O processo precisa permitir rejeitar, corrigir, pedir mais informação ou interromper a execução, sem custo operacional que desestimule o uso.
Existe tempo para agir. Aprovação que chega depois da consequência não funciona como prevenção.
Falta uma quinta pergunta, e ela costuma ser esquecida. O que acontece quando ninguém responde. A AWS recomenda que fluxos de aprovação tenham prazo e caminho de escalonamento. Sem isso, o processo fica parado por tempo indeterminado ou a operação cria um atalho informal para continuar funcionando, e o atalho informal é pior que a ausência do controle, porque não aparece em auditoria nenhuma.
O mesmo raciocínio de proporcionalidade aparece no Artigo 14 do AI Act, que exige medidas de supervisão proporcionais ao risco, ao nível de autonomia e ao contexto de uso, e estabelece que a pessoa consiga entender capacidades e limites, interpretar resultados e, quando apropriado, ignorar, substituir ou reverter uma saída. A obrigação legal vale para o recorte de sistemas de alto risco definido pela legislação europeia. O princípio de gestão que se extrai dela vale para qualquer agente com efeito material, e conversa com a autonomia que cada agente recebe.
Permissão e limite resolvem antes o que a fila resolveria depois
Existe um erro de sequência frequente. A empresa usa revisão humana para corrigir um processo que poderia ter sido limitado por desenho.
Se um agente não deveria acessar determinado dado, a proteção melhor é retirar a permissão. Se não deveria gastar acima de um valor, o sistema impõe o limite. Se não deveria executar muitas ações em poucos segundos, existe limite de frequência. Se uma ação específica nunca deveria ocorrer sem autorização, o próprio sistema bloqueia a execução até receber a aprovação.
O guia do Governo do Canadá recomenda combinar controles técnicos com human in the loop, citando permissões limitadas, acesso somente de leitura quando possível, limites de dados e frequência, registro das ações e um mecanismo externo para pausar ou desativar o agente.
O efeito é aritmético. Cada controle técnico retira uma classe inteira de decisões da fila humana, e a atenção que sobra vai para os casos em que julgamento, contexto ou escolha ainda são necessários. Essa calibragem entre exposição do caso de uso e intensidade do controle é o que sustenta a governança de IA proporcional ao risco, e é também o que separa a empresa que escala agentes da que trava neles.
Quantidade de aprovação não mede qualidade de supervisão
Uma empresa pode registrar centenas de aprovações humanas por dia e manter supervisão fraca. Pode registrar poucas e manter controles fortes. A diferença está no desenho, não no volume.
Boa supervisão deixa explícito qual decisão precisa de uma pessoa, por que essa decisão precisa de julgamento humano, qual informação a pessoa recebe, o que ela pode mudar, quanto tempo existe para agir e quais controles funcionam antes e depois daquele ponto. Empresas que já operam inteligência artificial com governança proporcional tratam essas seis respostas como parte do desenho do agente, não como política escrita depois do primeiro incidente.
O inventário é simples de começar. Liste os pontos em que uma pessoa participa do fluxo e descreva, para cada um, qual decisão ela deveria tomar. Onde não existir decisão clara, a etapa está consumindo atenção sem produzir controle, e o gestor que distribui autonomia é quem responde por essa conta.
Em quais pontos do seu fluxo a decisão humana muda o que acontece, e em quais ela apenas confirma o que o agente já decidiu?
Fontes
- National Institute of Standards and Technology. "AI Risk Management Framework 1.0, Appendix C: AI Risk Management and Human-AI Interaction" (2023). https://airc.nist.gov/airmf-resources/airmf/appendices/app-c-ai-risk-management-and-human-ai-interaction/
- Amazon Web Services. "AGENTREL02-BP05 Establish tiered human oversight and approval workflows", Agentic AI Lens. https://docs.aws.amazon.com/wellarchitected/latest/agentic-ai-lens/agentrel02-bp05.html
- Government of Canada. "Guide on the Use of Agentic Artificial Intelligence" (22 de maio de 2026). https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/guide-use-agentic-artificial-intelligence.html
- União Europeia. "Regulation (EU) 2024/1689 - AI Act, Artigo 14, supervisão humana" (2024). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
- Zhu, Liming; Lu, Qinghua; Ding, Ming; Lee, Sung Une; Wang, Chen. "Designing meaningful human oversight in AI", AI and Ethics (4 de maio de 2026). https://link.springer.com/article/10.1007/s43681-026-01147-7
- Romeo, Giuseppe; Conti, Daniela. "Exploring automation bias in human-AI collaboration: a review and implications for explainable AI", AI & Society (3 de julho de 2025). https://link.springer.com/article/10.1007/s00146-025-02422-7
- Lazaros, Konstantinos; Vrahatis, Aristidis G.; Kotsiantis, Sotiris. "Human-in-the-Loop Artificial Intelligence: A Systematic Review of Concepts, Methods, and Applications", Entropy 28(4):377 (26 de março de 2026). https://www.mdpi.com/1099-4300/28/4/377
Nota: as quatro funções da supervisão humana são uma proposição consultiva da WatchZ, sem correspondência a norma regulatória ou framework de terceiro. O AI Act é citado apenas pelo princípio de proporcionalidade e pelas condições de supervisão efetiva que estabelece para sistemas de alto risco.
