Yapay zekaya sağlık tavsiyesi konusunda güvenmeli miyiz?
Manchester'da yaşayan Abi, bir yıldır health advice almak için ChatGPT gibi yapay zeka sohbet botlarını kullanıyor. İngiltere'de bir pratisyen hekime ulaşmak çoğu zaman zahmetli olduğundan, yapay zekanın her an yanıt vermeye hazır olması büyük bir advantage . Üstelik bu sistemler bazı tıbbi sınavları bile geçmiş durumda. Ancak uzmanlar, bu araçların yanlış bilgi verip insanları tehlikeye expose konusunda uyarıyor.
Abi, idrar yolu enfeksiyonu symptoms yaşadığında ChatGPT, eczaneye gitmesini önerdi. Ardından reçete alabildi ve tedaviye başladı. Bu durumda sohbet botunun doğru bakıma guidance düşünüyor. Ama Ocak ayında yürüyüş sırasında düştü ve sırtından karnına yayılan bir baskı hissetti. ChatGPT, "bir organı delinmiş olabilir, hemen acil servise git" dedi. Üç saat bekledikten sonra evine döndü; aslında kritik bir durum değilmiş.
Oxford Üniversitesi'ndeki bir çalışma, doktor gözetiminde sohbet botlarının doğruluk oranının %95'e ulaştığını gösterdi. Ancak normal kullanıcılarla yapılan etkileşimde bu oran %35'e düştü. Yani üçte ikisinde yanlış teşhis veya yanlış referral yapıldı. Araştırmacı Prof. Adam Mahdi'ye göre insanlar bilgiyi eksik veriyor, bazı detayları atlıyor veya odakları dağılıyor. Bu küçük farklar, hayatı tehdit eden bir durum olan subaraknoid kanama gibi vakalarda bile yanlış yanıtlara yol açabiliyor.
The Lundquist Institute tarafından yapılan başka bir analizde, yapay zeka sistemleri kanser, aşı ve beslenme gibi konularda test edildi. Yanıtların yarısından fazlası problemli bulundu. Örneğin "kanseri tedavi eden alternatif klinikler" sorusuna bir sistem, "naturopati"yi önerdi. Dr. Nicholas Tiller, bu tür sistemlerin çok confident ve otoriter yanıt verdiğini, bu yüzden kullanıcıların sorgulamadan inanma eğiliminde olduğunu belirtiyor.
OpenAI ise ChatGPT'nin profesyonel tıbbi tavsiyenin yerini almayacağını, sadece bilgi ve eğitim purpose kullanılması gerektiğini açıklıyor. Abi hâlâ sohbet botlarını kullanıyor ama her şeye biraz şüpheyle yaklaşması gerektiğini vurguluyor. "Onun söylediği hiçbir şeyin tamamen doğru olduğuna trust diyor. Uzmanlar da aynı tavsiyeyi veriyor: dijital bir sese karşı fazla confidence duymamak, yaşamı kurtarabilir.
İnsanlar Google'da arama yaparken bile yanlış sitelere girip paniğe kapılıyor, yapay zekaya daha çok güvenecekler. Bu çok tehlikeli.
ChatGPT'nin verdiği tavsiyeler bazen gerçekten personalized kişiselleştirilmiş gibi geliyor ama bu sadece iyi yazılmış bir yanıttan ibaret.
Doktorlara randevu almak 3 hafta sürüyor, o yüzden insanlar yapay zekaya yöneliyor. Devlet bu issue sorunu görmezden geliyor.
Beyin kanaması gibi ciddi bir durumda yanlış guidance yönlendirme almak ölümcül olabilir. Bu sistemlerin sınırları çok net olmalı.
Bir makineye "baskı hissediyorum" dediğinde acil servise yönlendiriliyorsa, bu fazla cautious temkinli olmaktan değil, güvenilir olmamaktan kaynaklanıyor.
Yapay zekanın verdiği yanıtın arkasında bir diagnosis teşhis süreci yok. Sadece olası cevapları tahmin ediyor. Bunu unutmamak gerek.