Istraživači su upozorili da se ljudi ne bi smjeli oslanjati na umjetnu inteligenciju prilikom traženja zdravstvenih informacija, jer nova studija pokazuje da gotovo polovina odgovora koje pružaju popularni četbotovi poput ChatGPT-a i drugih sličnih sistema može biti netačna ili obmanjujuća. Istraživanje objavljeno u medicinskom časopisu BMJ Open analiziralo je pet najpoznatijih AI platformi, otkrivajući da je oko 50 posto njihovih odgovora na medicinska pitanja ocijenjeno kao problematično.
Stručnjaci su posebno zabrinuti zbog načina na koji ovi sistemi daju savjete s velikim samopouzdanjem, iako su često netačni. Na primjer, programi poput Grok i DeepSeek nisu mogli potkrijepiti svoje savjete pouzdanim medicinskim dokazima. U studiji je navedeno da je oko 20 posto preporuka ovih sistema ocijenjeno kao visoko rizično po zdravlje, što može ozbiljno ugroziti život osoba koje traže pomoć.
Dok su četbotovi pokazali određenu pouzdanost pri odgovaranju na jednostavna pitanja o vakcinama ili karcinomu, njihova tačnost znatno opada kada se radi o složenijim temama kao što su ishrana, terapije ili matične ćelije. Istraživači su istaknuli da nijedan od analiziranih sistema nije pružio potpuno tačne izvore za svoje tvrdnje, što može dovesti do zabluda među korisnicima koji nemaju medicinsko obrazovanje.
Zaključak studije naglašava da je za medicinske probleme jedino sigurno rješenje konsultacija sa stvarnim zdravstvenim stručnjakom, te se apeluje na javnost da ne vjeruje isključivo AI sistemima kada je u pitanju zdravlje.
Komentari