Governança inadequada pode levar empresas a desativar agentes autônomos de IA, alerta Gartner

A adoção acelerada de agentes de Inteligência Artificial nas empresas esbarra em um desafio crescente: a governança. De acordo com o Gartner, a aplicação dos mesmos controles e políticas a todos os agentes de IA, independentemente do grau de autonomia ou do acesso a sistemas corporativos, tende a comprometer os resultados dessas iniciativas.

A consultoria prevê que, até 2027, 40% das organizações reduzirão a autonomia ou desativarão agentes de IA autônomos após identificarem falhas de governança somente depois de incidentes ocorridos em ambiente de produção.

Segundo o Gartner, muitas empresas ainda tratam a governança dos agentes de IA de forma binária, adotando modelos excessivamente restritivos ou permissivos. Essa abordagem dificulta a obtenção de benefícios da tecnologia e amplia riscos operacionais, de segurança e conformidade.

"Os agentes operam em diferentes níveis de autonomia e dentro de distintos limites de confiança. Quando os mesmos controles são aplicados indiscriminadamente, as organizações acabam restringindo agentes simples ou concedendo liberdade excessiva a agentes mais avançados", afirma Shiva Varma, diretor analista sênior do Gartner.

Para reduzir esses riscos, a consultoria recomenda a adoção de modelos de governança proporcionais ao grau de autonomia de cada agente. A proposta prevê a classificação das soluções em quatro níveis distintos.

No primeiro nível, os agentes atuam apenas como observadores, acessando informações em modo leitura para atividades como recuperação de dados, resumo de documentos e explicação de códigos. Nesse caso, os controles devem priorizar autenticação, rastreabilidade e proteção dos dados consultados.

O segundo nível engloba agentes que fornecem recomendações e sugestões para usuários humanos, sem executar ações diretamente. Embora o processo decisório permaneça sob responsabilidade das pessoas, o Gartner alerta para o risco de viés de automação, quando usuários passam a confiar excessivamente nas respostas geradas pela IA.

No terceiro estágio, os agentes podem realizar ações operacionais, como atualizar registros, enviar comunicações ou alterar configurações, desde que cada atividade receba aprovação humana explícita. Para esse cenário, a consultoria destaca a necessidade de auditoria, trilhas de aprovação e mecanismos específicos de resposta a incidentes.

Já no quarto nível estão os agentes totalmente autônomos, capazes de executar tarefas sem validação humana individual. Nesse modelo, a supervisão ocorre por meio de monitoramento contínuo, análise de exceções e auditorias. O Gartner ressalta que esse ambiente exige os controles mais rigorosos, incluindo mecanismos de interrupção automática, capacidade de reversão de ações e definição clara de responsabilidades.