Movimentação do governo americano coloca segurança e governança em evidência; para CEO da Webpeak, o maior risco está em conceder autonomia à IA sem garantir controle sobre dados, acessos e processos
A inteligência artificial avança nas empresas, mas a capacidade de controlar seus riscos começa a ganhar espaço nas discussões de governos e especialistas. Nos Estados Unidos, uma força-tarefa federal passou a avaliar os impactos da tecnologia, incluindo ameaças cibernéticas a setores essenciais, como bancos, saúde e serviços públicos. A movimentação, noticiada pela Reuters em 8 de outubro, reforça uma preocupação que ultrapassa as fronteiras americanas: o que acontece quando organizações incorporam sistemas inteligentes sem preparar a infraestrutura necessária para operá-los com segurança?
Para Marcos Custódio, CEO da Webpeak, consultoria especializada em arquitetura digital e integração de sistemas, o debate ganha relevância em um momento em que as empresas buscam ampliar o uso da inteligência artificial sem necessariamente resolver problemas estruturais de suas operações.
“Durante muito tempo, o desafio das empresas foi fazer os sistemas conversarem entre si. Agora, estamos colocando inteligência artificial para tomar decisões e executar tarefas em ambientes onde, muitas vezes, essa integração ainda não foi resolvida. A tecnologia evoluiu, mas a estrutura que deveria sustentá-la nem sempre acompanhou esse avanço”, afirma Marcos.
O problema ganha outra dimensão com a popularização dos agentes de IA, capazes de consultar informações, interagir com plataformas e executar determinadas atividades com menor intervenção humana. Diferentemente das ferramentas utilizadas apenas para produzir textos ou resumir documentos, essas aplicações podem atuar diretamente sobre processos corporativos, dependendo das permissões concedidas.
Em uma operação comercial, por exemplo, um agente conectado ao sistema de gestão de relacionamento com clientes (CRM) pode consultar históricos, atualizar registros e acionar fluxos de atendimento. Se os dados estiverem desatualizados, duplicados ou associados a permissões inadequadas, a automação poderá reproduzir erros em escala e executar ações que exigiriam validação.
Na avaliação de Marcos, existe uma diferença fundamental entre utilizar inteligência artificial para apoiar uma atividade e permitir que ela execute ações dentro da empresa. Nesse segundo cenário, um erro pode deixar de ser uma resposta incorreta e provocar consequências operacionais. Por isso, tão importante quanto avaliar a capacidade da tecnologia é estabelecer os limites de sua atuação.
Sistemas legados podem ampliar vulnerabilidades
A dificuldade é especialmente relevante para organizações que operam com diferentes plataformas, bancos de dados e sistemas desenvolvidos em períodos distintos. Nesses ambientes, a falta de integração pode comprometer a consistência das informações utilizadas pela inteligência artificial e dificultar o acompanhamento de suas ações.
Modernizar a operação, no entanto, não significa necessariamente substituir todos os sistemas existentes. O desafio está em construir uma arquitetura capaz de organizar os fluxos de informação, controlar acessos e garantir a rastreabilidade das operações.
“Uma empresa pode contratar a ferramenta de IA mais avançada do mercado e continuar tomando decisões ruins se a informação que alimenta essa tecnologia estiver fragmentada ou incorreta. Inteligência artificial não corrige automaticamente uma operação desorganizada. Em determinadas situações, ela apenas torna essa desorganização mais rápida”, observa Marcos.
A preocupação também aparece nas orientações do Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST), responsável por uma estrutura de gestão de riscos para inteligência artificial que contempla governança, avaliação, monitoramento e definição de responsabilidades ao longo do uso desses sistemas.
Governança deixa de ser apenas uma questão de TI
À medida que ferramentas inteligentes passam a participar de processos financeiros, comerciais e operacionais, as decisões sobre sua utilização deixam de ser responsabilidade exclusiva das áreas de tecnologia.
Antes de ampliar a autonomia de uma aplicação, as organizações precisam definir quais informações poderão ser consultadas, quais ações estarão disponíveis, quais decisões exigirão supervisão humana e como eventuais falhas serão identificadas e corrigidas.
Para o CEO da Webpeak, a governança precisa fazer parte da concepção dos projetos, e não surgir apenas quando a tecnologia já estiver em funcionamento. Isso pressupõe conhecer a origem dos dados, estabelecer permissões de acesso e assegurar que decisões automatizadas possam ser acompanhadas e explicadas.
A movimentação americana sinaliza uma preocupação crescente com os riscos associados à inteligência artificial. No ambiente corporativo, o debate se traduz na necessidade de equilibrar velocidade de implementação, eficiência operacional e segurança, especialmente em organizações que dependem de sistemas legados e diferentes plataformas para sustentar suas atividades.
“A próxima vantagem competitiva não será simplesmente ter mais inteligência artificial. Será conseguir utilizá-la com segurança, integrá-la aos processos e transformar essa capacidade em resultados consistentes. A tecnologia precisa ampliar o controle do negócio, não criar uma operação que ninguém consegue explicar”, ressalta Marcos.
Sugestão de fonte
Marcos Custódio, CEO da Webpeak, consultoria especializada em arquitetura digital e integração de sistemas, está disponível para entrevistas sobre os impactos da inteligência artificial nas operações empresariais, os riscos da adoção sem governança e os desafios de integrar novas tecnologias às estruturas já existentes.
O executivo também pode contribuir com análises sobre temas correlatos:
- Agentes de IA: riscos de conceder autonomia a sistemas capazes de executar tarefas e tomar decisões operacionais.
- Sistemas legados: como estruturas fragmentadas podem comprometer projetos de inteligência artificial.
- Governança e segurança: controle de acessos, proteção de dados, rastreabilidade e responsabilidade pelas decisões automatizadas.
- Integração de sistemas: desafios de conectar CRMs, ERPs e diferentes plataformas para garantir informações confiáveis.
- Eficiência e retorno sobre investimento: avaliação dos custos e resultados da adoção de IA.
- Transformação digital: modernização de processos e organização de dados para a competitividade dos negócios.
Marcos também está disponível para comentar novos acontecimentos relacionados a esses temas, contribuindo com uma perspectiva técnica e empresarial sobre os desafios da transformação digital.
Imagem: https://pt.vecteezy.com/foto/8885382-processador-de-inteligencia-artificial