Aprovação humana: quando a automação deve parar
Automatizar não é deixar de decidir. Porque os pontos de aprovação, a visibilidade das etapas e a capacidade de interromper importam nos fluxos com IA.
Projeto relacionado: ETUNIM AI Studio
Quanto mais uma ferramenta faz sozinha, mais importa saber o que está a fazer. É um dos princípios que orientam a ETUNIM: as pessoas decidem.
Três perguntas antes de automatizar
- O erro é fácil de desfazer? Reorganizar um rascunho é diferente de enviar uma mensagem a um cliente.
- Alguém consegue ver o que aconteceu? Sem visibilidade das etapas, um erro pode passar despercebido.
- Quem responde pelo resultado? Essa responsabilidade não passa para a ferramenta.
Quanto mais difícil for desfazer uma ação, mais sentido faz exigir uma aprovação antes de a executar.
O que dizem as referências
O guia técnico da Anthropic defende que os agentes mostrem os passos que planeiam, parem para pedir orientação em pontos definidos ou quando ficam bloqueados, e tenham condições de paragem, como um número máximo de iterações.
Na União Europeia, o artigo 14.º do Regulamento da Inteligência Artificial trata da supervisão humana em sistemas de alto risco. Entre outros pontos, refere o risco de confiar demasiado nos resultados de um sistema e a possibilidade de intervir ou de o interromper em segurança. Nem todos os sistemas são de alto risco, e isto não é aconselhamento jurídico, mas a ideia é útil como boa prática geral.
Já a Gartner previu em 2025 que mais de 40% dos projetos de IA agêntica serão cancelados até ao final de 2027, por custos crescentes, valor de negócio pouco claro ou controlos de risco inadequados. É uma previsão, não um facto, mas lembra que o controlo faz parte do projeto desde o início.
Como pensamos o controlo
No ETUNIM AI Studio, ainda em conceito, queremos que seja possível ver os dados entre etapas, identificar erros e definir aprovações humanas antes de ações importantes. Stay in control é mais do que uma frase: é um requisito do produto que queremos construir.