Chatbot-et nuk mund të ndalojnë së sajuari fakte të rreme

Një nga problemet me përdorimin e chatbot-eve me inteligjencë artificiale (IA) është mënyra në dukje e shkujdesur, me të cilën ata "halucinojnë" - zhargon i industrisë për ta që shpikin gjëra, në vend që të pranojnë se nuk janë të sigurt për atë që po shkruajnë.

Mësohuni me këtë, thonë tani studiuesit, pasi duket se mënyra se si funksionojnë robotët do të thotë që të paktën dy lloje gënjeshtrash që ata kanë tendencë të nxjerrin, nuk mund të zhduken.

“Ashtu si studentët që përballen me pyetje të vështira provimi, modelet e mëdha gjuhësore ndonjëherë hamendësojnë kur janë të pasigurta, duke prodhuar pohime të besueshme, por të pasakta, në vend që të pranojnë pasigurinë”, paralajmërojnë një ekip studiuesish të OpenAI dhe Georgia Tech në SHBA, në një punim të botuar në shtator.

Robotët halucinojnë "sepse procedurat e trajnimit dhe vlerësimit, shpërblejnë hamendësimin në vend të pranimit të pasigurisë", tha ekipi.

Sipas analistëve që folën për revistën shkencore Nature, jo vetëm që duket “e pamundur” që halucinacionet të mund të ndalen, por mund të jetë veçanërisht e vështirë të projektohen robotë të inteligjencës artificiale, në një mënyrë që i ndalon ata të sajojnë citime në dukje të kota.

Studiuesit besojnë se eliminimi i "mashtrimeve" - ​​kur një robot pretendon se ka kryer një detyrë të caktuar, por nuk e ka bërë - mund të jetë një tjetër pengesë.

Sipas Tianyang Xu të Universitetit Purdue, numri i halucinacioneve ka rënë në një nivel që mund të konsiderohet "i pranueshëm për përdoruesit".

"Halucinacionet janë rezultat i mënyrës themelore se si funksionojnë LLM-të," tha Nature, duke shpjeguar se robotët janë "makina statistikore" që bëjnë parashikimet e tyre, duke "përgjithësuar në bazë të shoqatave të mësuara" - një sistem që bën që makinat "të prodhojnë përgjigje që janë të besueshme, por ndonjëherë të gabuara"./ DPA News.