Estudo mostra que IAs falham em 50% das consultas de saúde
Um new study publicado na revista BMJ Open revela que cerca de 50% das respostas de inteligências artificiais sobre saúde são unreliable e podem até causar danos. Com o aumento do uso de chatbots como ChatGPT, Gemini e Meta AI para medical advice , o alerta surge em momento crítico: as máquinas frequentemente respondem com confidence mesmo quando estão erradas, e raramente admitem não saber.
Os pesquisadores analisaram 250 perguntas sobre saúde e descobriram que quase 20% das respostas foram highly problematic , enquanto outras 50% foram classificadas como apenas problematic . Um dos grandes riscos apontados é o fenômeno do false balance : as IAs colocam opiniões de redes sociais no mesmo nível de evidência científica sólida. Isso acontece porque o training data dessas ferramentas se baseia em textos públicos da internet, incluindo fóruns como o Reddit.
Além disso, nenhum dos chatbots conseguiu fornecer uma lista de references bibliográficas completa ou precisa. Em alguns casos, os robôs chegaram a inventar livros e artigos que não existem — um problema conhecido como hallucination em IA. Especialistas reforçam que essas ferramentas não têm clinical judgment e não devem ser usadas para diagnósticos individuais, especialmente em casos graves ou complexos.
Apesar dos riscos, a corrida das grandes empresas de tecnologia para o setor de saúde só cresce. A OpenAI informa que mais de 200 milhões de pessoas fazem perguntas sobre bem-estar ao ChatGPT por semana. Com o lançamento do ChatGPT Health e novas ferramentas do Claude, da Anthropic, o uso dessas IAs pode se tornar ainda mais comum — e a public trust nelas, ainda mais difícil de controlar.
Mas se as pessoas não têm acesso fácil a médicos, vão continuar usando IA. O problema não é só a tecnologia, é o healthcare gap acesso à saúde.
Já vi gente mudando remédios por causa de um chatbot. Isso é dangerous perigoso demais.
O falso equilíbrio faz total sentido. A IA não sabe o que é autoridade científica, só o que é popular na rede. Pensamento crítico nunca foi o forte delas.
Eles citam alucinação, mas esquecem de dizer que até médicos erram. Só que médicos não fingem certeza total o tempo todo. Confiança falsa é o cerne do problema.
Tô esperando o dia que a IA me der um diagnóstico e eu ir ao médico pra ouvir: 'acertou em cheio'. Até lá, desconfio de tudo. Risco demais pra pouca reward recompensa.
Será que uma IA treinada só com artigos revisados por pares funcionaria melhor? Talvez o solution caminho seja restringir a fonte, não a tecnologia.