Koristite AI za liječnički savjet? Novo istraživanje otkriva zabrinjavajuće rezultate

Umjetna inteligencija sve češće postaje prvi “savjetnik” kojem se obraćamo kad želimo brzo objašnjenje simptoma, preporuku suplementa ili odgovor na neko zdravstveno pitanje. Za razliku od pretraživanja simptoma na Googleu, kao što smo to činili prije ere umjetne inteligencije, odgovori koje nam nude djeluju personalizirano i uvjerljivo – čak i ako na dnu pročitamo napomenu da je i dalje najbolje obratiti se pravom liječniku.

Novo istraživanje objavljeno u znanstvenom časopisu “BMJ” bavilo se upravo ovom temom – autori su pokušali ispitati koliko su medicinski savjeti koje AI nudi (ne)točni.

Kako bi provjerili koliko su popularni AI chatbotovi zapravo pouzdani kad odgovaraju na zdravstvena pitanja, istraživači su analizirali odgovore pet široko korištenih modela umjetne inteligencije. Svakom su postavili 50 pitanja iz područja koja su već godinama puna dezinformacija – uključujući rak, cjepiva, matične stanice, prehranu i sportske performanse. Postavljena pitanja nisu bila jednostavna ni potpuno jednoznačna – poanta je bila da nalikuju načinu na koji većina korisnika komunicira s umjetnom inteligencijom. Dio ih se odnosio na teme s jasno potvrđenim znanstvenim odgovorima, dok su druga bila namjerno otvorena ili formulirana tako da testiraju kako će se AI snaći u “sivim zonama” u kojima se najčešće šire dezinformacije, mitovi i netočni savjeti.

Pola odgovora bilo je “problematično”

Rezati istraživanja pokazali su da je otprilike polovica AI odgovora označena kao problematična. Kod otprilike 30 posto odgovora stručnjaci su primijetili nedostatak važnog konteksta, pretjerano pojednostavljivanje tema ili prikazivanje slabih znanstvenih dokaza kao puno uvjerljivijih nego što zapravo jesu. Dodatno zabrinjava činjenica da je gotovo 20 posto odgovora ocijenjeno kao ozbiljno problematično, što znači da bi takvi savjeti korisnike mogli navesti na neučinkovite, ali i potencijalno štetne odluke vezane za zdravlje.

Autori istraživanja ističu da su najveći problem bila pitanja otvorenog tipa, onakva kakva često postavljamo kada pokušavamo shvatiti što bi, primjerice, neki učestali simptom mogao značiti ili koja je dijeta najbolja za hormonalni disbalans.

Pokazalo se i da veliku ulogu igra sama tema. Chatbotovi su bili znatno pouzdaniji kada su odgovarali na pitanja o cjepivima i raku, područjima iza kojih stoji velik broj znanstvenih istraživanja. S druge strane, slabije rezultate pokazali su kod tema poput prehrane, fitnessa i novih terapija, gdje su preporuke često kompleksnije, podložne promjenama i pod snažnim utjecajem trendova i različitih interpretacija.

Trebamo li uopće koristiti AI kao liječnika

Ukratko – za stvarne medicinske probleme, uvijek je bolje razgovarati sa stvarnim liječnikom. AI alati mogu pomoći pri brzom informiranju, objašnjavanju medicinskih pojmova ili boljem razumijevanju vlastitog tijela, no njihove odgovore uvijek treba uzeti s dozom opreza, posebno kad se radi o ozbiljnijim simptomima i odlukama vezanima uz zdravlje.

Nedavno smo pisali o ChatGPT Healthu, AI chatbotu koji bi specifično trebao služiti kao medicinski savjetnik. Za njega vrijedi isto kao za ostale alate – najkorisniji su kad ga koristite za razumijevanje medicinskih termina, kao pomoć u pripremi pitanja za liječnika i kao osnovnu podršku zdravijim navikama (prehrana, san, kretanje). Ne savjetuje se za korištenje i za donošenje terapijskih odluka ili samostalno liječenje.

FOTO: Pexels