A morte de uma jovem que interrompeu um tratamento médico contínuo após orientação do ChatGPT virou caso de Justiça nos Estados Unidos e acendeu um alerta global sobre os graves perigos de utilizar ferramentas de inteligência artificial para diagnósticos ou condutas de saúde.
A engenheira de software Bowen Wan, de 31 anos, mantinha conversas recorrentes com a plataforma para esclarecer dúvidas e relatar efeitos colaterais de medicamentos de uso controlado contra a epilepsia. Com base nas perguntas da usuária, o programa elaborou um cronograma de 25 dias para redução gradativa da dosagem até a suspensão total do remédio, resultando em uma morte súbita associada à doença pouco tempo após a conclusão do processo.
O caso motivou a família da vítima a mover uma ação judicial formal contra a OpenAI, empresa desenvolvedora da tecnologia. Em nota oficial, a companhia afirmou que o episódio envolveu uma versão antiga do sistema que já foi removida e ressaltou que os modelos atuais contam com filtros de segurança mais rigorosos.
Contudo, pesquisadores e especialistas em tecnologia apontam que o incidente evidencia lacunas graves de regulação e fiscalização pública sobre as plataformas digitais, destacando que ferramentas automatizadas operam por combinação probabilística de dados e não possuem capacidade de realizar julgamentos clínicos individualizados.
Neurologistas e autoridades de saúde enfatizam que medicamentos de uso contínuo jamais devem ter suas doses alteradas ou interrompidas sem o acompanhamento presencial de um profissional habilitado. Médicos ressaltam que apenas o especialista conhece o histórico detalhado do paciente e as especificidades das medicações para indicar qualquer modificação com segurança.
O episódio reforça a orientação de que informações obtidas em ambientes virtuais não substituem a consulta médica direta.
Se você ou alguém que você conhece estiver passando por um momento difícil, com dúvidas sobre saúde ou enfrentando momentos de dor e sofrimento emocional, é muito importante buscar a ajuda de profissionais de saúde qualificados e de pessoas de confiança. No Brasil, o Centro de Valorização da Vida (CVV) oferece apoio emocional gratuito e confidencial pelo telefone 188 ou pelo site cvv.org.br, disponível 24 horas por dia. Em casos de emergências médicas, acione o SAMU pelo 192. Falar com um médico ou com um adulto de confiança é sempre o caminho mais seguro para cuidar da sua vida e do seu bem-estar.