Revisão: João Paulo Chagas, gestor de Marketing e Operações da Audatia · atualizado em 18 de agosto de 2026
Sim, o receio procede — e ele é a objeção mais bem fundamentada que ouvimos. IA conectada a uma operação real pode escrever para cliente, mudar status de entrega, mover trabalho de fila e disparar aviso, e cada uma dessas ações tem consequência fora da empresa. O que mudou é que as plataformas de gestão passaram a tratar isso como requisito de produto, e não como detalhe: hoje um agente opera dentro das permissões de quem o aciona, registra o que fez e pede aprovação humana para decisão crítica. A documentação do ClickUp afirma que os Super Agents “seek human approval for critical decisions” e que toda ação é registrada; a do monday.com afirma que os agentes agem dentro das suas permissões e que não podem executar ações fora do que lhes é explicitamente permitido. Isso não elimina o risco. Elimina a categoria de risco mais assustadora — a de a máquina fazer algo que ninguém autorizou — e transfere o risco restante para onde ele sempre esteve: no que a empresa autoriza, e em quem confere.
Começando pelo sim, então: quem tem esse medo está certo em ter. O erro seria concluir daí que a resposta é não usar. A resposta é usar com escopo escrito.
O que exatamente pode dar errado?
Vale separar, porque “a máquina fazer besteira” junta quatro riscos de naturezas bem diferentes, e eles se resolvem de formas diferentes.
| Risco | Exemplo concreto | O que barra |
|---|---|---|
| Ação indevida | O agente fecha um chamado que não deveria fechar | Permissão: o agente não recebe o direito de fechar |
| Saída errada | O resumo afirma um prazo que não existe | Revisão humana antes de sair da empresa |
| Acesso indevido | O agente lê um documento restrito e cita o conteúdo | Escopo de acesso configurado no mínimo necessário |
| Escala do erro | O erro acontece 400 vezes antes de alguém perceber | Log e limite de execução |
Os dois primeiros são os que aparecem na conversa. Os dois últimos são os que causam dano de verdade — e são os menos discutidos, porque não são intuitivos.
As plataformas resolvem isso ou é conversa de marketing?
Resolvem uma parte, e a parte que resolvem está documentada. Vale ler o que os fabricantes escrevem, porque o texto é mais específico do que o discurso comercial.
O ClickUp descreve os Super Agents assim:
“Secure: You have full control over who can use Super Agents, every action is logged, and they seek human approval for critical decisions.”
— ClickUp Help Center
E, sobre permissões, a documentação é explícita quanto ao teto de alcance: os Autopilot Agents só operam a partir de locais e itens que o usuário já pode acessar e sobre os quais tem permissão total ou de edição total. Uma página separada do mesmo help center registra que os Super Agents são tratados como usuários do ClickUp e que sempre há uma pessoa no fluxo de trabalho do agente.
O monday.com descreve a mesma ideia com outra formulação:
“Agents only access what you are allowed to access. You can narrow this access to the minimum that’s necessary for the agent to run.”
— monday.com Support
A mesma página acrescenta que o agente não pode executar ações fora do que lhe é explicitamente permitido. E há, do lado do monday, uma área de governança de IA em que o administrador controla acesso aos recursos, revisa consumo de créditos e define limites de uso para a conta inteira.
Traduzindo as duas em uma frase: o agente não amplia o alcance de ninguém. Ele é limitado pelo que a pessoa por trás dele já podia fazer. O que significa que a segurança do agente é exatamente a qualidade da sua estrutura de permissões — nem melhor, nem pior.
Então o problema não é a IA?
O problema é anterior. Se a sua empresa tem permissões frouxas hoje — todo mundo vê tudo, todo mundo edita tudo —, o agente herda essa frouxidão e passa a exercê-la mais rápido e mais vezes do que uma pessoa exerceria.
É a mesma lógica que vale para o dado: IA integrada não cria governança, ela expõe a governança que já existe. Base organizada gera resposta organizada. Base caótica gera caos mais rápido.
Por isso a pergunta útil antes de habilitar qualquer agente não é sobre o agente. É: hoje, se um estagiário bem-intencionado clicasse em tudo que tem permissão de clicar, o que quebraria? A resposta a essa pergunta é o seu inventário de risco real, e ela existe independentemente de IA.
O que a empresa precisa fazer, então?
Quatro decisões, e nenhuma delas é técnica. Todas cabem numa página.
- Definir o que o agente pode tocar. Comece pelo mínimo. É mais fácil ampliar depois do que explicar por que ele tinha acesso a algo que não devia.
- Definir o que nunca sai sem pessoa. Comunicação com cliente, número que vai para fora, e qualquer decisão que encerre algo. Escrito, não combinado.
- Definir quem desliga. Nome e sobrenome, com acesso administrativo, conhecido pela equipe. É literalmente o que o NIST pede:
“Policies and procedures are in place to define and differentiate roles and responsibilities for human-AI configurations and oversight of AI systems.”
— NIST AI Risk Management Framework 1.0, subcategoria GOVERN 3.2
- Definir quem olha o log. Registro que ninguém lê não é controle, é arquivo. Uma revisão semanal de dez minutos nas primeiras semanas resolve.
E o medo de a equipe perder o controle do que a IA fez?
Esse é o ponto em que o log importa mais do que a permissão. Toda ação de agente fica registrada nas duas plataformas, e o registro é o que permite reconstruir o que aconteceu depois que aconteceu.
Só que log tem uma característica ingrata: ele só serve se alguém combinar de olhar. Nas primeiras quatro semanas de qualquer agente em produção, vale ter uma pessoa responsável por percorrer o registro e responder três perguntas:
- O agente fez algo que você não esperava?
- Alguma ação dele foi desfeita por uma pessoa? Quantas vezes?
- Houve algum caso em que ele deveria ter parado e não parou?
A segunda pergunta é a mais reveladora. Ação de agente desfeita por humano é o melhor indicador precoce de configuração errada — melhor do que reclamação, porque acontece antes de alguém se dar ao trabalho de reclamar.
Existe lei no Brasil sobre isso?
Ainda não há uma lei geral de IA em vigor no país. O PL 2338/2023 foi aprovado pelo Senado e remetido à Câmara dos Deputados em março de 2025, onde tramita em comissão especial. Enquanto isso, o que se aplica ao uso de IA na operação é a legislação que já existe — com destaque para a LGPD, sempre que houver dado pessoal envolvido, e para as obrigações contratuais que a empresa já tem com clientes.
Na prática, isso significa duas coisas. Primeiro: não existe brecha regulatória a explorar, porque a proteção de dado pessoal já vale. Segundo: quando a lei específica chegar, a empresa que já tem escopo escrito, revisão humana definida e log revisado vai precisar ajustar documento, não operação. É o argumento mais barato para fazer o dever de casa agora.
Resumo
| Pergunta | Resposta curta |
|---|---|
| O medo procede? | Procede. É a objeção mais bem fundamentada do tema |
| A máquina pode agir sem eu autorizar? | Não além do que a permissão permite. O agente não amplia o alcance de ninguém |
| Isso é garantia? | Não. É teto. Dentro do teto, o risco é o que você autorizou |
| Quem é responsável se der errado? | A empresa. Ferramenta não assume responsabilidade por decisão de operação |
| O que barra saída errada? | Regra escrita de revisão humana, não configuração de modelo |
| E se ninguém perceber o erro? | Log revisado nas primeiras semanas. Ação desfeita por humano é o melhor sinal |
| Existe lei brasileira? | Ainda não há lei geral. O PL 2338/2023 está na Câmara. LGPD já se aplica |
| Devo esperar a lei para começar? | Quem começa com escopo escrito ajusta documento depois, não operação |
Próximo passo
Se você quer descer ao detalhe de quem aprova o quê — e como isso fica configurado na prática —, agente supervisionado: quem aprova o quê traz o desenho da matriz de aprovação.
E se o desconforto for menos com o agente e mais com o estado das permissões da sua conta hoje, essa revisão é trabalho de estrutura: é parte do que a sustentação faz continuamente, porque permissão não é configuração de uma vez — ela muda toda vez que alguém entra, sai ou troca de função.
