Sohbet botları sağlık tavsiyelerinin yarısında yanlış bilgi veriyor
Yapay zeka sohbet botlarının sağlık tavsiyesi verirken sıklıkla yanılabileceği, yeni bir study ile ortaya kondu. ABD, Kanada ve Birleşik Krallık'taki araştırmacılar, beş popüler yapay zeka aracının verdiği sağlık bilgilerini inceledi ve sonuçların half hatalı ya da eksik olduğunu gördü.
ChatGPT, Gemini, DeepSeek, Meta AI ve Grok gibi araçlara kanser, aşılar, kök hücre tedavisi, beslenme ve spor performansı hakkında toplam 50 soru soruldu. Sorular, real-world sıklıkla karşılaşılan, yanlış bilgilendirme potansiyeli taşıyan türdeydi. Yanıtlar doğruluk, eksiklik ve clarity açısından değerlendirildi.
Sonuçlar revealed ki, verdikleri cevapların %30'u "biraz", %20'si "yüksek" düzeyde sorunlu. Araştırmacılar, bu yanıtların tek başına harm vermiş olmasa da, tıbbi yardım almadan uygulanmaları halinde tehlikeli olabileceğini warned .
Grok en fazla hata yapan sistemken, Gemini en doğru yanıtları verdi. Ancak tüm botlar, üniversite mezunlarının anlayabileceği bir complexity seviyesinde yanıt verdi; bu da bazı kullanıcılar için bile barrier oluşturabileceğini gösteriyor.
Araştırmacılar, yapay zekanın gerçek zamanlı veriye erişemediğini, sadece patterns tahmin ederek yanıt ürettiğini belirtti. Bu yüzden, cevaplar confident görünse de, doğru olmayabilir. Tıbbi kararlar için bu tür araçlara güvenmek yerine profesyonellere başvurmak, sağlık açısından çok daha safe .
Bu sonuçlar korkutucu değil, beklenen. Kimse bir chatbot söyleşiciye gidip ameliyat olmaz ama grip için ne içeceğini sorar. Risk fark edilmiyor.
Gemini'nin en az hata yapması ilginç. Yine de %50 hata oranı varsa, sağlık için güvenilir bir kaynak değil. Açık bir uyarı gerek.
Anneniz isterse bile bu tür botlara tıbbi sorular sormasını önermiyorum. Yanıtlar confident kendinden emin ama temelsiz olabilir.
Botlar zaten birer tahmin makinesi. Eğitim verilerindeki bias eğilim varsa, yanıtlar da bozuk çıkar. Bu sonuç şaşırtıcı değil.
Peki kullanıcılar bunu nasıl anlayacak? Botlar 'sanırım' demiyor, kesin cümleler kuruyor. Şeffaflık eksik.
Sağlıkta innovation yenilik iyi ama güvenlik önce gelir. Bu araştırmayı okuyan herkes dikkatli olmalı.