O Gartner, Inc., empresa de insights de negócios e tecnologia, prevê que, até 2028, Inteligência Artificial (IA) mal configurada em sistemas ciberfísicos (CPS) provocará a paralisaçãode infraestrutura crítica nacional em um país do G20.
O Gartner define CPS como sistemas projetados que orquestram sensoriamento, computação, controle, rede e análise para interagir com o mundo físico (incluindo seres humanos). CPS é o termo abrangente que engloba tecnologia operacional (OT), sistemas de controle industrial (ICS), sistemas de automação e controle industrial (IACS), Internet Industrial das Coisas (IIoT), robôs, drones ou Indústria 4.0.
“A próxima grande falha de infraestrutura pode não ser causada por hackers ou desastres naturais, mas sim por um engenheiro bem-intencionado, um script de atualização com falhas ou um decimal posicionado incorretamente”, diz Wam Voster, Vice-Presidente Analista do Gartner. “Um mecanismo seguro de desligamento de emergência (kill-switch) ou modo de sobreposição acessível apenas a operadores autorizados é essencial para proteger a infraestrutura nacional de desligamentos não intencionais causados por uma configuração incorreta da IA.”
A Inteligência Artificial mal configurada pode desligar de forma autônoma serviços vitais, interpretar erroneamente os dados dos sensores ou desencadear ações inseguras. Isso pode resultar em danos físicos ou interrupções de serviços em grande escala, representando ameaças diretas à segurança pública e à estabilidade econômica ao comprometer o controle de sistemas essenciais, como redes elétricas ou plantas industriais.
As redes elétricas modernas, por exemplo, dependem da IA para equilibrar em tempo real a geração e o consumo. Um modelo preditivo mal configurado pode interpretar erroneamente a demanda como instabilidade, acionando desnecessariamente o isolamento da rede ou o corte de carga em regiões inteiras ou até mesmo em países.
“Os modelos modernos de IA são tão complexos que muitas vezes se assemelham a ‘caixas pretas’”, diz Voster. “Mesmo os desenvolvedores nem sempre conseguem prever como pequenas alterações na configuração afetarão o comportamento emergente do modelo. Quanto mais opacos esses sistemas se tornam, maior é o risco representado por uma configuração incorreta. Portanto, é ainda mais importante que os seres humanos possam intervir quando necessário.”
Para mitigar os riscos, o Gartner recomenda que Chief Information Security Officers (CISOs) devem:
– Implementar modos de sobreposição seguros: para todas as infraestruturas críticas CPS, incluir um mecanismo de desligamento de emergência seguro (kill-switch) ou outros mecanismos de sobreposição acessíveis apenas a operadores autorizados, para que os seres humanos mantenham o controle final, mesmo durante a autonomia total.
– Gêmeos digitais: desenvolver um gêmeo digital em escala real dos sistemas que suportam infraestruturas críticas para testes realistas de atualizações e alterações nas configurações antes da implementação.
– Monitoramento em tempo real: Exigir monitoramento em tempo real com mecanismos de reversão para alterações feitas na Inteligência Artificial em CPS, garantindo também a criação de equipes nacionais de resposta a incidentes de IA.
Os clientes da Gartner podem saber mais em “Predicts 2026: Emergent Critical Risks of AI in CPS Security”. Saiba como navegar pelo caminho da modernização da infraestrutura no roadmap gratuito do Gartner, “Modern Infrastructure: Built for Tomorrow’s Business Demands”.
Imagem: https://pt.vecteezy.com/foto/23331275-robo-ai-com-mao-robo-apontando-ai-tecnologia-digital-grafico-projeto-preto-fundo-ai-maquina-aprendendo-maos-do-robo-ciencia-e-artificial-inteligencia-tecnologia-inovacao-e-futurista