Sim, o receio procede: IA na operação pode escrever para cliente, mudar status de entrega, mover trabalho de fila e disparar aviso, e cada uma dessas ações tem consequência fora da empresa. É a objeção mais bem fundamentada que eu ouço sobre o tema, e quem a levanta está certo em levantá-la.
O que mudou é que as plataformas de gestão passaram a tratar isso como requisito de produto: um agente opera dentro das permissões de quem o aciona, registra o que fez e pede aprovação humana para decisão crítica. Isso não elimina o risco — elimina a categoria mais assustadora dele, a de a máquina fazer algo que ninguém autorizou, e devolve o risco restante para onde ele sempre esteve: no que a empresa autoriza e em quem confere.
Este artigo separa os quatro riscos que a frase “a máquina fazer besteira” mistura, mostra o que os fabricantes documentam de fato, lista as quatro decisões que cabem numa página e diz em que casos a resposta honesta é não habilitar agente nenhum. Adianto que os dois riscos mais citados não são os que causam dano.
Declaro o interesse comercial: a Audatia é revenda oficial do ClickUp no Brasil e parceira da monday.com em consultoria, treinamento e sustentação, sem revender licença de monday. Os links de teste são de parceiro. Como eu ganho quando essas plataformas são adotadas, a saída honesta é citar a documentação dos fabricantes literalmente e apontar o que ela não promete.
O que exatamente pode dar errado
Vale separar, porque “a máquina fazer besteira” junta quatro riscos de naturezas bem diferentes, e eles se resolvem de formas diferentes.
| Risco | Exemplo concreto | O que barra |
|---|---|---|
| Ação indevida | O agente fecha um chamado que não deveria fechar | Permissão: o agente não recebe o direito de fechar |
| Saída errada | O resumo afirma um prazo que não existe | Revisão humana antes de sair da empresa |
| Acesso indevido | O agente lê um documento restrito e cita o conteúdo | Escopo de acesso configurado no mínimo necessário |
| Escala do erro | O erro acontece 400 vezes antes de alguém perceber | Registro de atividade e possibilidade de pausar |
Repare no padrão: os dois primeiros são os que aparecem na conversa, e os dois últimos são os que causam dano de verdade. Ação indevida e saída errada acontecem uma vez e alguém nota. Acesso indevido e escala do erro acontecem em silêncio e por repetição — e são os menos discutidos justamente porque não são intuitivos.
Como funciona o teto de permissão
Este é o mecanismo que sustenta toda a resposta, e ele tem uma consequência que corta nos dois sentidos.
Um agente não tem identidade própria de acesso: ele age a partir do alcance de quem o criou ou de quem o aciona. A documentação do monday.com diz isso em uma frase — “os agentes só acessam o que você tem permissão de acessar; você pode restringir esse acesso ao mínimo necessário para o agente funcionar” —, e acrescenta que quem cria controla em quais quadros, espaços e times o agente pode atuar e o que ele pode fazer dentro daquele escopo.
O ClickUp descreve o mesmo princípio pelo lado do controle: você define quais ferramentas e fontes de dados o agente alcança e quem no Workspace pode acioná-lo e administrá-lo.
O agente não amplia o alcance de ninguém. Ele é limitado pelo que a pessoa por trás dele já podia fazer — o que significa que a segurança do agente é exatamente a qualidade da sua estrutura de permissões, nem melhor, nem pior.
É por isso que o teto corta nos dois sentidos. Se as permissões são estreitas, o agente é seguro por construção. Se são frouxas, o agente herda a frouxidão e passa a exercê-la mais rápido e mais vezes do que uma pessoa exerceria.
O que os fabricantes documentam de fato
Vale ler o que eles escrevem, porque o texto da documentação é mais específico — e mais contido — do que o discurso comercial.
Sobre os Super Agents, o ClickUp registra: “Seguro: você tem controle total sobre quem pode usar os Super Agents, cada ação é registrada, e eles buscam aprovação humana para decisões críticas.” A mesma página faz uma distinção que importa e que costuma se perder: os Super Agents não são a mesma coisa que os Autopilot Agents, que executam ações a partir de gatilhos e condições definidos, sem a interação adaptativa dos primeiros. Se alguém na sua empresa disser “o agente pede aprovação”, vale confirmar de qual dos dois está falando.
Do lado do monday.com, além do teto de acesso, a documentação lista três controles concretos na seção de governança:
- Registro auditável. Há um log transparente de ações e de raciocínio na aba de atividade, e a configuração do agente fica visível para inspeção.
- Pausa a qualquer momento. O agente pode ser colocado em estado pausado, em que continua editável mas não executa. Este é o botão de desligar, e ele existe de fábrica.
- Titularidade que não se transfere. O dono do agente pode designar editores e visualizadores, mas a documentação registra que a titularidade não pode ser transferida.
Essa terceira linha é a que eu destacaria para quem vai operar isso a sério, porque ela é uma armadilha de médio prazo: se a pessoa que criou o agente sair da empresa, você não herda a titularidade dele. Vale decidir desde o começo que agentes de operação nascem sob uma conta que a empresa controla, não sob a conta pessoal de quem teve a ideia.
Então o problema não é a IA
O problema é anterior. É a mesma lógica que vale para o dado: IA integrada não cria governança, ela expõe a governança que já existe. Base organizada gera resposta organizada; base caótica gera caos mais rápido.
Por isso a pergunta útil antes de habilitar qualquer agente não é sobre o agente. É esta: hoje, se um estagiário bem-intencionado clicasse em tudo que tem permissão de clicar, o que quebraria? A resposta é o seu inventário de risco real, e ela existe independentemente de IA.
As quatro decisões que cabem numa página
Nenhuma delas é técnica, e é justamente por isso que elas não são resolvidas por configuração.
- Definir o que o agente pode tocar. Comece pelo mínimo. É mais fácil ampliar depois do que explicar por que ele tinha acesso a algo que não devia.
- Definir o que nunca sai sem pessoa. Comunicação com cliente, número que vai para fora e qualquer decisão que encerre algo. Escrito, não combinado.
- Definir quem desliga. Nome e sobrenome, com acesso administrativo, conhecido pela equipe — e que saiba onde fica o botão de pausar antes de precisar dele.
- Definir quem olha o registro. Registro que ninguém lê não é controle, é arquivo. Uma revisão de dez minutos por semana nas primeiras semanas resolve.
A terceira decisão não é invenção de consultoria. O NIST, no framework de gestão de risco de IA, tem uma subcategoria inteira sobre isso — a GOVERN 3.2 pede que existam políticas e procedimentos para definir e diferenciar papéis e responsabilidades nas configurações humano-IA e na supervisão dos sistemas. O framework também distingue duas figuras que as empresas costumam colapsar em uma só: quem usa o sistema e quem supervisiona o sistema. Não precisam ser a mesma pessoa, e em geral é melhor que não sejam.
O que olhar no registro nas primeiras semanas
Log tem uma característica ingrata: ele só serve se alguém combinar de olhar. Nas primeiras quatro semanas de qualquer agente em produção, vale ter uma pessoa responsável por percorrer o registro e responder três perguntas.
- O agente fez algo que você não esperava?
- Alguma ação dele foi desfeita por uma pessoa? Quantas vezes?
- Houve algum caso em que ele deveria ter parado e não parou?
A segunda é a mais reveladora. Ação de agente desfeita por humano é o melhor indicador precoce de configuração errada — melhor do que reclamação, porque acontece antes de alguém se dar ao trabalho de reclamar. Se você só puder acompanhar um número, acompanhe esse.
Quando a resposta honesta é não habilitar
Há cenários em que eu desaconselho, mesmo ganhando com a adoção das plataformas.
- Quando as permissões estão frouxas e ninguém quer revisá-las. Habilitar agente sobre estrutura em que todo mundo edita tudo é multiplicar o alcance do problema. A revisão de permissões é pré-requisito, não etapa paralela.
- Quando ninguém aceita ser o dono. Se não há nome e sobrenome para as decisões 3 e 4, o projeto não tem supervisão — tem torcida.
- Quando o processo ainda muda toda semana. Agente configurado sobre processo instável passa mais tempo sendo corrigido do que trabalhando.
- Quando o objetivo é cortar a conferência humana. Se a economia pretendida vem exatamente de remover a revisão, o projeto está comprando o risco que este artigo descreve, não evitando.
- Quando há dado pessoal sensível no escopo e não houve avaliação. Aqui a conversa é com o jurídico antes de ser com a ferramenta.
Vale dizer com todas as letras: as duas primeiras linhas eliminam boa parte de quem me procura com essa dúvida. E é uma boa notícia disfarçada, porque o trabalho que elas exigem tem valor mesmo que a IA nunca seja habilitada.
Existe lei no Brasil sobre isso?
Não há uma lei geral de inteligência artificial em vigor no país. O PL 2338/2023 foi aprovado pelo Senado e apresentado na Câmara dos Deputados em 17 de março de 2025, onde tramita em regime de prioridade, sob análise de uma comissão especial criada para ele, com diversos projetos apensados e sujeito à apreciação do Plenário. Como esse status muda, confirme a situação atual na ficha de tramitação antes de citar o assunto em documento formal.
Enquanto isso, o que se aplica ao uso de IA na operação é a legislação que já existe — com destaque para a LGPD, sempre que houver dado pessoal envolvido, e para as obrigações contratuais que a empresa já tem com clientes.
Na prática, isso significa duas coisas. Primeiro: não existe brecha regulatória a explorar, porque a proteção de dado pessoal já vale hoje. Segundo: quando a lei específica entrar em vigor, a empresa que já tem escopo escrito, revisão humana definida e registro revisado vai precisar ajustar documento, não operação. É o argumento mais barato para fazer o dever de casa antes.
Perguntas frequentes
| Pergunta | Resposta curta |
|---|---|
| O medo de plugar IA na operação procede? | Procede. É a objeção mais bem fundamentada do tema, e a resposta não é deixar de usar: é usar com escopo escrito. |
| A máquina pode agir sem eu autorizar? | Não além do que a permissão permite. O agente não amplia o alcance de ninguém: ele herda o de quem o criou ou aciona. |
| Isso é garantia? | Não, é teto. Dentro do teto, o risco é exatamente o que você autorizou. |
| O agente pede aprovação humana? | A documentação do ClickUp afirma isso para os Super Agents, em decisões críticas. Os Autopilot Agents são outro produto, com gatilhos e condições definidos. |
| Dá para desligar rápido? | Sim. No monday.com, o agente pode ser pausado a qualquer momento: continua editável, mas não executa. |
| O que acontece se quem criou o agente sair da empresa? | No monday.com, a documentação registra que a titularidade do agente não pode ser transferida. Vale criar agentes de operação sob uma conta da empresa. |
| Quem é responsável se der errado? | A empresa. Ferramenta não assume responsabilidade por decisão de operação. |
| O que barra saída errada? | Regra escrita de revisão humana antes de a informação sair da empresa, não configuração de modelo. |
| E se ninguém perceber o erro? | Registro revisado nas primeiras semanas. Ação desfeita por humano é o melhor sinal precoce. |
| Existe lei brasileira específica? | Ainda não há lei geral em vigor. O PL 2338/2023 tramita na Câmara em regime de prioridade. A LGPD já se aplica. |
| Devo esperar a lei para começar? | Quem começa com escopo escrito ajusta documento depois, não operação. |
| Quando não habilitar agente nenhum? | Quando as permissões estão frouxas e ninguém vai revisá-las, quando não há dono, quando o processo é instável ou quando o objetivo é remover a conferência humana. |
Próximo passo
Comece pelo diagnóstico que não depende de IA nenhuma: liste quem, hoje, tem permissão de editar ou encerrar coisas que afetam cliente. Se essa lista for maior do que você esperava, você encontrou o trabalho a fazer — e ele vale a pena mesmo que nenhum agente seja habilitado.
Depois, antes de ligar qualquer coisa em produção, vale ver como permissão, registro e pausa aparecem na prática num ambiente sem consequência. Dá para montar isso numa tarde criando uma conta de teste do ClickUp ou uma conta de teste do monday.com, configurando um agente com escopo mínimo e tentando fazer com que ele faça algo que você não autorizou. É um exercício de meia hora e resolve mais desconforto do que qualquer texto.
Se você quer descer ao detalhe de quem aprova o quê, agente supervisionado: quem aprova o quê traz o desenho da matriz de aprovação.
E se o desconforto for menos com o agente e mais com o estado das permissões da sua conta hoje, essa revisão é trabalho de estrutura: desenhar quem acessa o quê é consultoria, e manter isso em dia é sustentação e evolução — porque permissão não é configuração de uma vez: ela muda toda vez que alguém entra, sai ou troca de função. A ordem que eu sigo para não aplicar IA sobre base desorganizada está no Método Núcleo→Escala.
Fontes
- ClickUp Help — What are Super Agents? (controle de quem aciona, registro de toda ação, aprovação humana em decisões críticas e a distinção em relação aos Autopilot Agents)
- monday.com Support — AI Agents on monday.com (teto de acesso, escopo por quadro e time, log na aba de atividade, pausa do agente e titularidade não transferível)
- NIST AI RMF Playbook — Govern (subcategoria GOVERN 3.2, papéis e responsabilidades em configurações humano-IA)
- NIST AI Risk Management Framework 1.0 (documento completo do framework)
- Câmara dos Deputados — ficha de tramitação do PL 2338/2023 (data de apresentação, regime de prioridade e situação da proposição)
*Os recursos, permissões e comportamentos descritos são os documentados pelos fabricantes no momento da consulta e mudam sem aviso; a disponibilidade varia por plano e por papel de usuário, então confirme na sua conta antes de desenhar processo em cima deles. O status do PL 2338/2023 muda ao longo da tramitação — consulte a ficha oficial. Este texto é orientação operacional e não parecer jurídico: questões de LGPD e de responsabilidade civil devem ser tratadas com o seu jurídico. A revenda nacional do ClickUp, em reais e com nota fiscal brasileira, exige no mínimo 10 usuários por regra do fabricante; a Audatia não revende licença de monday.com.
