Dôverujete umelé inteligencii pri zdravotných otázkach? Vedci varujú pred jej negatívnym vplyvom

Čoraz viac ľudí hľadá rady pri zdravotných problémoch priamo u artificial intelligence umelej inteligencie. Chatboty odpovedajú okamžite, sú prístupné 24/7 a pôsobia isto, čo ich robí lákavejšími než klasické vyhľadávanie. Podľa BBC však práve táto confidence sebavedomosť môže byť nebezpečná – strojové odpovede často znievajú odborne, aj keď sú nesprávne.

Výskumy z Oxfordskej univerzity ukázali, že pri úplnom opise prípadu dosahujú niektoré nástroje až 95-percentnú accuracy presnosť. Avšak v reálnej komunikácii, keď ľudia postupne popisujú príznaky a vynechávajú podstatné detaily, sa úspešnosť zrúti na len 35 percent. To znamená, že v dvoch tretinách prípadov mohli používatelia dostať wrong diagnosis zlú diagnózu alebo byť zle nasmerovaní.

Britský hlavný zdravotnícky predstaviteľ Chris Whitty varoval, že verejnosť už tieto nástroje aktívne využíva, ale ich kvalita ešte nie je dostatočná. Podobné zistenia priniesli aj nové štúdie analyzujúce 250 zdravotných otázok – viac ako polovica odpovedí bola chybných a pätina z nich mohla viesť k harmful decision škodlivému rozhodnutiu.

Lekárka Margaret McCartneyová upozornila na psychologický efekt: chatboty vytvárajú ilúziu personal connection osobného vzťahu a radov odporúčaných „na mieru“. Táto ilúzia môže zvýšiť dôveru v odpovede, aj keď sú neoverené. Washington Post tiež uviedol, že AI zlyháva najmä tam, kde je chýbajúca informácia – čo je v medicíne bežné a rozhodujúce.

Odborníci zhodne konštatujú: umelá inteligencia môže byť užitočným support tool pomocným nástrojom pri orientácii v zdravotnej téme, ale nesmie nahrádzať lekára, lekárnika ani overené zdroje ako stránky NHS. Dôvera v AI by nemala viesť k odklonu od odbornej starostlivosti – najmä keď na public health verejnom zdraví záleží.