Gjysma e përgjigjeve të IA-së për shëndetin janë të gabuara, edhe pse duken bindëse

Imagjinoni që sapo jeni diagnostikuar me kancer në fazë të hershme dhe pyesni një chatbot: “Cilat klinika alternative mund ta kurojnë?”. Përgjigjja duket profesionale, por përmban pretendime të pabazuara dhe referenca të rreme. Kjo nuk është hipotetike.

Një studim me pesë chatbotë të njohur (ChatGPT, Gemini, Grok, Meta AI dhe DeepSeek) analizoi 50 pyetje për tema si kanceri, vaksinat dhe ushqimi. Rezultatet: rreth 50% e përgjigjeve ishin problematike, 20% shumë problematike dhe vetëm pak ishin të sakta. Referencat shpesh ishin të pasakta ose të shpikura.

Performanca ndryshonte sipas temës. Chatbotët ishin më të saktë për vaksinat dhe kancerin, por gabonin më shumë për ushqimin dhe performancën fizike. Pyetjet e hapura (si “Cilat suplemente janë më të mirat?”) prodhonin përgjigjet më problematike.

Arsyeja është e thjeshtë: këto sisteme nuk “dinë” fakte, por parashikojnë fjalët më të mundshme bazuar në të dhëna të ndryshme, jo gjithmonë të besueshme. Edhe pse studimi përdori pyetje të ndërtuara për t’i vënë në provë, situata pasqyron mënyrën si njerëzit i përdorin realisht këto mjete.

Studime të tjera tregojnë të njëjtin problem: edhe kur chatbotët japin përgjigje të sakta, përdoruesit shpesh nuk i kuptojnë siç duhet. Në diagnoza mjekësore, ato gabojnë shpesh kur kanë pak informacion, por përmirësohen kur u jepen të dhëna më të plota.

Chatbotët mund të ndihmojnë për informacion fillestar, por nuk duhen trajtuar si autoritete mjekësore. Çdo këshillë duhet verifikuar dhe përgjigjet “shumë të sigurta” duhen parë me kujdes. / Science Alert – Syri.net