Durante meses, um ex-pastor americano recorreu ao ChatGPT em busca de respostas para sintomas que não conseguia compreender. A conversa foi ganhando espaço, incorporou informações sobre sua saúde e chegou a usar a linguagem de sua fé. Segundo uma ação ajuizada em San Francisco, o sistema também minimizou sinais que exigiam atenção e recomendou que ele permanecesse em casa, com os movimentos limitados. Por conta dessa ação da ferramenta digital, o homem foi levado às pressas para o hospital com uma embolia pulmonar que quase o matou.
Morador da Flórida, ele agora processa a OpenAI, responsável pelo ChatGPT, e o CEO da empresa, Sam Altman. Entre as acusações apresentadas estão negligência e exercício não autorizado da medicina. As alegações ainda serão analisadas pela Justiça dos Estados Unidos.
O processo relata que o autor da ação vinha enfrentando episódios recorrentes de tontura e instabilidade da pressão arterial. De acordo com o documento, o ChatGPT-4o avaliou que o quadro ainda não deveria ser considerado grave e orientou o usuário a continuar descansando em uma poltrona, evitando se movimentar. Horas antes da emergência, uma sensibilidade na virilha teria sido descrita pelo sistema como algo provavelmente sem perigo. A resposta foi acompanhada por referências religiosas que procuravam tranquilizá-lo.
Nesse mesmo dia ele sentiu palpitações intensas e falta de ar, chamou o serviço de emergência e acabou internado em uma unidade de terapia intensiva. A ação afirma que havia vários coágulos nos dois pulmões e que, segundo os médicos que o atenderam, o período de imobilidade pode ter contribuído para a embolia.
Para a psicóloga Maria Klien, o episódio ajuda a tornar visível um limite que não pode ficar sujeito à interpretação de quem está assustado ou procurando uma resposta rápida.
“Esse caso deixa um alerta muito concreto. Uma inteligência artificial pode falar com segurança, adaptar a resposta ao vocabulário de quem pergunta e até recorrer à fé dessa pessoa. Tudo isso produz uma sensação de proximidade, mas não corresponde a uma avaliação clínica. Conselho médico é de médico, de um profissional humano capaz de examinar, investigar e assumir responsabilidade pela conduta”, afirma.
A confiança pode crescer aos poucos. Uma pergunta pontual leva a outra, o sistema reúne detalhes já compartilhados e passa a responder de maneira cada vez mais pessoal. Quando há medo, dor ou cansaço por não encontrar explicações, a disponibilidade permanente da ferramenta pode ser sentida como uma forma de amparo. É nesse ponto, observa Maria, que informação, acolhimento e autoridade começam a se confundir.
“A resposta chega em segundos e costuma vir bem organizada. Para alguém fragilizado, isso pode soar como se a situação inteira tivesse sido compreendida. A máquina, porém, trabalha com o que foi escrito e com os limites do próprio sistema. Ela não deve receber a decisão sobre ficar em casa, interromper um tratamento ou deixar de procurar ajuda”, acrescenta a psicóloga.
A dimensão desse uso já ultrapassa casos isolados. A própria OpenAI informou, em junho de 2026, que mais de 230 milhões de pessoas recorrem semanalmente ao ChatGPT para questões relacionadas à saúde e ao bem-estar. A empresa afirma que os modelos mais recentes avançaram na identificação de situações em que pode haver necessidade de atendimento urgente.
Em resposta ao processo, a OpenAI declarou que o ChatGPT não é médico e nunca deve substituir cuidados, diagnóstico ou tratamento realizados por profissionais. A empresa sustenta que a tecnologia pode ajudar as pessoas a compreender informações, organizar dúvidas e se preparar para consultas. Seus termos de uso também orientam que as respostas não sejam tratadas como fonte única de verdade nem como substitutas de aconselhamento profissional.
O episódio envolve o GPT-4o, modelo retirado de operação em fevereiro de 2026. A ação pede indenização e medidas que obriguem o chatbot a encerrar conversas quando houver sinais de uma emergência médica, encaminhando o usuário para atendimento.
“A inteligência artificial pode apoiar uma pesquisa ou ajudar alguém a formular perguntas para uma consulta. O cuidado começa a se perder quando a resposta automática ocupa o lugar da avaliação humana. Diante de um problema de saúde, especialmente quando os sintomas persistem ou pioram, a decisão precisa passar por um profissional”, conclui Maria Klien.
Imagem: https://pt.vecteezy.com/foto/48948019-kyiv-ucrania-marcha-17-2024-aberto-logotipo-em-iphone-exibicao-tela-com-fundo-do-artificial-inteligencia-futurista-imagem