do com o estudo “How Agentic AI Is Transforming Enterprise Platforms“, produzido pelo Boston Consulting Group (BCG), os processos assistidos por inteligência artificial (IA) já não são suficientes. As empresas que querem ter uma vantagem competitiva em produtividade, responsividade e inovação devem adotar a IA agêntica.
Os agentes de IA podem tomar ações autônomas e orientadas por objetivos. Eles detectam anomalias de forma autônoma, preveem necessidades de caixa e recomendam a realocação entre contas. O levantamento mostra que, em ambientes piloto, os eventos de risco foram reduzidos em 60%.
Além disso, segundo o BCG, fluxos de trabalho orquestrados por IA podem acelerar os processos de negócios em 30% a 50% em áreas que vão de finanças e compras a operações de clientes. Mas, para que essa transformação se concretize, as empresas devem investir em IA como um produto, atribuindo a alguém a supervisão dos processos dos agentes, implementando mecanismos de controle e criando salvaguardas humanas.
Os primeiros adotantes estão vendo ciclos de fluxos 20% a 30% mais rápidos e reduções significativas nos custos de back-office. Em alguns casos, o tempo de processamento humano foi reduzido em algumas instâncias em 40% e o Net Promoter Score (NPS) – uma medida da probabilidade de um cliente recomendar uma seguradora a um conhecido – aumentou em 15 pontos.
Contudo, essa tecnologia traz novos desafios de governança, pois, sem supervisão, controles de agentes bem construídos podem sair do curso. Ao mesmo tempo, aumenta o potencial de ameaças de cibersegurança, visto que cria ou expande superfícies de ataque que atores maliciosos podem alavancar, por exemplo, sequestrando agentes autônomos para infiltrar sistemas e roubar dados.
Para mitigar esses riscos e construir uma implementação segura, o BCG, no âmbito do seu Framework para Segurança e Confiança Agentic (FAST) e por meio da pesquisa “Making AI Agents Safe for the World”, identificou três estratégias-chave que ajudam as empresas a se proteger:
- Validação de entrada com reconhecimento de intenção. Os sistemas devem detectar e bloquear solicitações maliciosas, analisando sua intenção e estrutura, sem restringir consultas legítimas. Um agente treinado para detecção é provavelmente a melhor solução.
- Segurança robusta da API. Todas as integrações exigem mecanismos de autenticação fortes combinados com uma higienização completa dos dados de entrada. Isso reduz o risco de consultas maliciosas se propagarem por sistemas interconectados. A aplicação de padrões de confiança zero (nunca confie, sempre verifique) e do princípio do menor privilégio (os usuários recebem o mínimo de acesso necessário) é fundamental para garantir que os agentes sejam devidamente autenticados e autorizados a acessar os componentes necessários do sistema.
- Monitoramento em tempo real. O monitoramento contínuo do comportamento com detecção de anomalias ajuda a identificar padrões indicativos de manipulação maliciosa. Auditorias regulares garantem que o comportamento da IA permaneça alinhado aos objetivos pretendidos, com qualquer desvio ou degradação sendo prontamente corrigido.
O BCG reforça que equilíbrio entre inovação e segurança garante que os sistemas permaneçam funcionais e resilientes, agregando valor e, ao mesmo tempo, protegendo usuários e dados.
Os estudos completos estão disponíveis, em inglês, no site do BCG.
Imagem: https://br.freepik.com/imagem-ia-gratis/future-visions-business-and-technology-concept_396969441.htm