Quem nunca recorreu à inteligência artificial para dar aquela força no trabalho, traduzir um texto, criar uma imagem ou resolver uma dúvida rápida? O uso da IA já se tornou parte da rotina de muitas pessoas. O que nem todo mundo sabe é que não dá para confiar de olhos fechados em tudo o que essas ferramentas entregam, já que os resultados podem conter erros, colocar dados e a privacidade em risco ou até virar instrumento para golpes. Para orientar a população sobre como tirar proveito dessa tecnologia de forma segura e consciente, o Centro de Estudos, Resposta e Tratamento de Incidentes de Segurança no Brasil (CERT.br), do Núcleo de Informação e Coordenação do Ponto BR (NIC.br), apresenta o fascículo “Inteligência Artificial”, novo integrante da Cartilha de Segurança para Internet. A publicação reforça uma mensagem central: “A IA é assistente. O responsável é você”.
O material explica que não existe uma única inteligência artificial capaz de realizar qualquer atividade, mas, sim, diferentes ferramentas voltadas a finalidades específicas. Grandes modelos de linguagem (LLMs, na sigla em inglês), usados em chatbots, não necessariamente identificam fatos ou a resposta correta: funcionam por meio de algoritmos matemáticos que calculam a resposta mais provável, de acordo com seus dados de treinamento e com o contexto do prompt.
Por isso, os resultados podem trazer informações incorretas, desatualizadas ou inventadas, fenômeno conhecido como alucinação. O CERT.br recomenda tratar os conteúdos gerados como rascunhos, checar fatos, confirmar se as fontes citadas realmente existem e abordam o assunto e buscar referências independentes antes de tomar decisões.
“Por mais avançada que a tecnologia pareça, a inteligência artificial é um software que usa cálculo probabilístico e não possui discernimento ou senso crítico. O ser humano precisa estar no comando em etapas decisivas: estabelecendo limites de acesso aos agentes, realizando aprovação prévia antes de ações irreversíveis e revisando o conteúdo gerado. A ferramenta apoia o trabalho, mas a análise final, a validação das informações e a responsabilidade pelo resultado permanecem inteiramente com o usuário”, salienta Cristine Hoepers, gerente do CERT.br.
Cuidados com prompts e alucinações
Para reduzir erros e obter respostas mais precisas, a publicação orienta o usuário a elaborar prompts claros e detalhados, indicando a tarefa, o contexto, o público-alvo e o tom de linguagem desejado.
Quando o tema for muito específico, o CERT.br recomenda fornecer uma fonte especializada diretamente no prompt e restringir a resposta da ferramenta estritamente a esse conteúdo. Outra orientação prática é dar instruções prévias para que a IA informe explicitamente quando não tiver certeza ou quando faltarem informações, em vez de tentar inventar uma resposta.
Privacidade e uso de IA no ambiente de trabalho
O fascículo dedica atenção especial à proteção de dados pessoais e corporativos. Informações inseridas em chatbots públicos, geralmente são enviadas aos servidores da empresa responsável pela ferramenta e podem ser usadas para treinar o modelo. A orientação é assumir que tudo o que é colocado em um prompt pode se tornar de uso comum. Senhas, números de documentos como CPF, dados bancários, informações de clientes, códigos-fonte e documentos internos não devem ser inseridos nessas ferramentas.
Para o ambiente de trabalho, a recomendação é consultar as regras da empresa sobre o uso de IA, verificar quais aplicações são permitidas e não utilizar contas pessoais para realizar tarefas profissionais ou processar dados da empresa.
A publicação orienta, ainda, a ajustar as configurações de privacidade nas ferramentas, desativar o uso de interações para treinamento do modelo, desligar o histórico de atividades e utilizar conversas temporárias, quando disponíveis. Antes de compartilhar arquivos gerados por IA, também é necessário conferir se não há exposição inadvertida de dados sensíveis ou trechos do prompt original em comentários ou metadados.
Agentes de IA e “prompt injection”: o humano no comando
O fascículo aborda o avanço dos agentes de IA, sistemas com capacidade de acessar aplicações e dados e de executar ações de forma autônoma. Nesses casos, o CERT.br enfatiza que o humano deve permanecer no comando, limitando as permissões do agente apenas ao estritamente necessário para a tarefa.
A orientação é configurar os sistemas para exigir aprovação humana antes de efetivar pagamentos, enviar mensagens, publicar conteúdos ou realizar ações irreversíveis, como a exclusão de dados.
O cuidado é indispensável porque agentes podem ser manipulados por instruções maliciosas escondidas em sites, arquivos ou e-mails (ataque conhecido como prompt injection) ou agir de forma inesperada. Se um agente precisa apenas ler um documento, por exemplo, não deve ter permissão para alterá-lo ou apagá-lo.
Uso de IA em fraudes e deepfakes
A publicação também alerta o cidadão para o uso de IA por criminosos na criação de deepfakes (áudios, imagens e vídeos falsos) para se passar por pessoas conhecidas, pedir dinheiro ou espalhar desinformação. A tecnologia também tem sido usada para gerar comprovantes falsos de transferências e entregas.
Em situações suspeitas, a recomendação é confirmar as informações por canais oficiais, desconfiar de pedidos urgentes e verificar o efetivo crédito na conta bancária antes de considerar um pagamento concluído.
Direitos autorais, plágio e orientações sobre saúde
Para evitar o plágio de obras protegidas por direitos autorais, que compõem a base de treinamento das LLMs, o material orienta o usuário a reescrever os textos com suas próprias palavras, citar autores originais e indicar quando ferramentas de IA foram utilizadas.
Por fim, o material alerta que chatbots de uso geral não devem ser utilizados para autodiagnóstico, automedicação ou em substituição a profissionais de saúde e terapeutas. Essas ferramentas não possuem treinamento específico nem sigilo profissional e não compreendem o contexto médico ou emocional do usuário, podendo fornecer orientações incorretas ou prejudiciais.
O fascículo “Inteligência Artificial” integra a Cartilha de Segurança para Internet e está disponível gratuitamente em: Link.
Cidadão na Rede
Além do novo fascículo, foram lançadas duas animações do projeto Cidadão na Rede com o tema inteligência artificial. Uma delas alerta sobre os riscos de compartilhar dados pessoais em prompts de chatbots de ferramentas de IA generativa. O vídeo orienta os usuários da tecnologia a substituir informações reais por termos genéricos e a proteger dados como CPF, endereço e senhas.
A outra fala sobre imagens, áudios e vídeos gerados por Inteligência Artificial para a aplicação de golpes e a disseminação de informações falsas. Nela, há dicas de como reconhecer os sinais de alerta, verificar conteúdos suspeitos e se proteger desses golpes.
Capitaneada pelo Centro de Estudos e Pesquisas em Tecnologia de Redes e Operações do NIC.br (Ceptro.br|NIC.br), o Cidadão na Rede é uma iniciativa criada para difundir e incentivar boas práticas relacionadas à cidadania digital e ao uso da Internet. Com animações curtas, o projeto mostra, de maneira simples, como utilizar a rede de forma correta e responsável, abrangendo questões técnicas e comportamentais.
Confira os vídeos
Imagem: https://pt.vecteezy.com/foto/76475373-ai-lasca-em-placa-mae-com-brilhando-circuitos