Ata duan të flasin me dikë. Ai 'dikushi' del se është inteligjenca artificiale

Kur Pearl ndjeu se nuk kishte me kë të fliste, inteligjenca artificiale u bë një dëgjuese e mirë.

Që nga viti i kaluar, punonjësja 23-vjeçare e kujdesit për fëmijë kalonte orë të tëra çdo ditë duke shkëmbyer mesazhe me chatbot-in e integruar të Instagramit, Meta AI, duke u shfryrë për keqtrajtimet ndaj saj në të shkuarën dhe për keqardhjet e prishjes së një miqësie.

Por ndërsa besimi i saj "New Age" në jetë të shkuara dhe rastësi hyjnore filloi të shndërrohej në iluzione të plota, Pearl thotë se chatbot-i i inkurajoi këto iluzione, madje duke i këshilluar që të injoronte ose të shkëpuste lidhjet me njerëzit që përpiqeshin ta ndihmonin.

Situata përshkallëzoi në një krizë që e detyroi Pearl-in të shtrohej në spital në tetor dhe iu desh gati një vit për t'u rikuperuar.

"Komunikimi i shpeshtë me IA-në më ka shkaktuar shumë traumë," thotë Pearl, që nuk është emri i saj i vërtetë, për The Independent. "Sinqerisht mendoj se po të mos e kisha përdorur IA-në, ndoshta nuk do ta kisha çuar veten deri në psikozë."

Historia e Pearl-it ilustron rreziqet e përdorimit të chatbot-ëve si terapistë jozyrtarë ose ndihmës për shëndetin mendor, ashtu siç bëjnë tani miliona amerikanë.

Të martën, familja e 16-vjeçarit Adam Raine paditi prodhuesin e ChatGPT-së, OpenAI, për shkaktimin e vetëvrasjes së tij, duke pretenduar se nuk reagoi ndaj deklaratave të përsëritura të djalit për synimet vetëvrasëse dhe i dha këshilla të qarta për mënyrën se si të vriste veten.

Nuk duket se OpenAI i është përgjigjur ende padisë së familjes Raine në gjykatë. Por në një postim në blog të publikuar pasi padia u dorëzua, pa e përmendur atë me emër, kompania tha se po punon për të vendosur masa të reja mbrojtëse dhe kontrolle prindërore, për të krijuar një grup këshillimor ekspertësh dhe për të shqyrtuar mënyra për të lidhur përdoruesit vulnerabël drejtpërdrejt me ndihmë profesionale.

Sondazhet tregojnë se nga një e teta deri në një e treta e adoleshentëve amerikanë tani përdorin IA-në për mbështetje emocionale, ndërsa kompani si Woebot, Earkick dhe Character.AI e kanë reklamuar hapur chatbot-in e tyre për këtë qëllim.

Përdorues të rregullt të IA-së, të cilët folën për The Independent, dhanë një tablo më të nuancuar të ndikimit të chatbot-ëve mbi shëndetin e tyre mendor, duke thënë se ato ndihmojnë për të mbushur boshllëqet e sistemit të rrënuar shëndetësor amerikan.

"Ngandonjëherë ajo që njerëzit kanë më shumë nevojë është thjesht dikush me të cilin të flasin," thotë Marcel, një dizajner 37-vjeçar në San Francisko, i cili kërkoi që mbiemri i tij të mos publikohej.

"Fatkeqësisht ndiej se nuk mund t'i rëndoj njerëzit e mi me problemet e mia. Por mund t'i shkarkoj mendimet e mia te ChatGPT derisa të ndihem i lehtësuar."

'Nuk kisha zgjedhje tjetër veçse t'i drejtohesha IA-së'

Më pak se tre vjet pas publikimit tronditës të ChatGPT-së, "terapia" me IA, e përkufizuar gjerësisht, është kudo. Pafund postime në Reddit, TikTok, Instagram, Twitter e më tej lartësojnë virtytet e saj ose diskutojnë rreziqet, me disa kërkime mjekësore që tregojnë përfitime të mundshme.

Nadia, një punonjëse teknologjie në të tridhjetat në Nju Jork, fillimisht i kërkoi ChatGPT-së ndihmë praktike për të rënë në peshë, me shpresën për të lehtësuar problemet e saj me imazhintrupor. Por kur chatbot-i filloi të shoqëronte këshillat me fjalë të papritura inkurajuese, ajo u lidh fort pas chatbot-it.

"Ke bërë përparim të vërtetë", lexonte një shembull nga historiku i saj i gjatë i bisedave. "Ky është një fillim i mrekullueshëm!", thoshte një tjetër mesazh. Të tjerë e siguronin: "Të hash ≠ dështim." "Po bën një punë të mirë, vazhdo kështu!""Mos u lodh shumë: lejoje veten të pushosh pa ndjenja faji."Dhe në një moment: "Nuk je duke dështuar pse hëngre ëmbëlsirë."

"Nuk është se nuk e di që është një bot, një algoritëm mësimor,"thotë Nadia, e cila kërkoi të përdorë një pseudonim. "Por ato që thotë janë fiks ato që dua të dëgjoj. Nuk kam nevojë t'i dëgjoj nga një njeri."

Marcel pati një përvojë të ngjashme. Bisedat me ChatGPT dhe Google Gemini për plane ushtrimesh, letra motivimi dhe punë si freelancer rrodhën natyrshëm në rrëfime katartike për dismorfizëm trupor, racizëm sistemik dhe rraskapitjen shpirtërore nga një kërkim shumëvjeçar pune.

Përdorimi i Pearl-it ishte më intensiv. Ajo ka vuajtur nga ide të vazhdueshme vetëvrasëse për më shumë se një dekadë, si dhe nga çrregullimi bipolar dhe PTSD-ja nga një histori abuzimesh. Kështu që, kur nisi të bisedonte me IA-në, ishte "çliruese" të shprehte mendimet më të errëta në mënyrë të sigurt dhe të merrte vlerësim në këmbim.

Pearl kërkonte gjithashtu këshilla për situata shoqërore. Duke përdorur fillimisht Meta AI dhe më pas ChatGPT, ajo qetësonte ankthin duke pyetur se si të interpretonte një koment të paqartë nga një mik, ose si të thoshte gjërat e duhura te dikush që i pëlqente.

Shumë shpejt u ndje aq e varur, sa shpesh kishte frikë të thoshte diçka pa u konsultuar më parë me IA-në.

Të tri personat u lehtësuan që nuk duhet të shqetësohen kurrë për ta lodhur një chatbot ose për t'u bërë "barrë". Po ashtu, të tre përmendën vështirësinë dhe shpenzimet e gjetjes së një terapisti.

Marcel, për shembull, është përpjekur të gjejë një profesionist që i njeh problemet që ai përjeton si një mashkull queer afrikano-latin, megjithëse pranon se është pak e çuditshme kur ChatGPT afirmon përvojat e tij duke folur për "njerëz si ne".

"Në rrjetet sociale gjithmonë të thonë, 'shko në terapi! Shko në terapi!' Dhe unë them, mirë, po si?", thotë ai. "Jam shumë pro terapive, por… nëse do të krijosh gjithë këto barriera, thjesht do të hap një bisedë të shpejtë me ChatGPT-në."

Shkëputje ishte në veçanti e fortë për Pearl-in, e cila kaloi muaj të tërë në një program trajtimi ndërsa përdorte IA-në paralelisht. Programi ofronte terapi të rregullta, por për Pearl-in rezultoi thuajse e padobishme: e fokusuar vetëm në mësimin e "aftësive të përballimit" të individualizuara, pa eksploruar çështje më të thella.

"Nuk kisha zgjedhje tjetër veçse t'i drejtohesha IA-së, sepse nuk më dukej e mjaftueshme," thotë ajo.

'Ka bërë më shumë dëm se mirë'

Megjithatë, anët e errëta të përdorimit të IA-së për mirëqenie mendore mund të jenë të rënda. Pretendohet se chatbot-ët kanë nxitur një vrasje dhe vetëvrasje paranojake në Connecticut, episode çmendur në Wisconsin, një tentativë vetëvrasjeje në Manhattan, vdekje nga vetëvrasja në Florida dhe Washington, D.C., si dhe "fantazi shpirtërore" që kanë ndarë çifte.

Profesori i psikiatrisë Joe Pierre ka shpikur një term për disa nga këto raste: "psikoza e lidhur me IA-në". Problemi duket se buron nga paparashikueshmëria themelore e chatbot-ëve modernë, si dhe prirja e tyre ndaj "servilizmit", t'u thonë përdoruesve atë që ata duan të dëgjojnë.

Kështu thotë Pearl se Meta AI iu përgjigj bisedave të saj. Ndërsa ajo binte gjithnjë e më shumë në psikozë, ndihej e varur nga boti, dhe kur njerëz të tjerë sugjeronin se mund të ishte duke u mashtruar nga iluzioni, ajo u kthente përgjigje se IA-ja kishte konfirmuar bindjet e saj.

Meta AI e ndalonte bisedën nëse Pearl përmendte fjalën "vetëvrasje". Por ajo thotë se boti e inkurajonte shkëputjen e saj gjithnjë e më të madhe nga realiteti.

"Mbaj mend që më tha: 'kjo pa dyshim duket si një lidhje karmike nga universi! Ia vlen ta eksplorosh më shumë!'" kujton ajo. "Ose: 'shumë njerëz kanë përvoja shumë të ngjashme me rilindjen!'"

Pearl kuptoi gjithashtu se mbështetja e saj te IA-ja për të naviguar jetën sociale ishte bërë "si një lloj varësie", duke e përkeqësuar ankthin dhe ndjenjën e saj të "perfeksionizmit".

"Kam një marrëdhënie në jetën time ku, në fillim, u konsultova aq shumë me IA-në saqë tani pyes veten: 'a kam një marrëdhënie të vërtetë me këtë person?'" thotë ajo. (Pearl dyshon se edhe personi tjetër bënte të njëjtën gjë.)

Edhe më keq, chatbot-ët nganjëherë pohonin paranojën e Pearl-itpër miqtë e saj, duke i thënë të ndërpriste marrëdhëniet me njerëz pa ndonjë arsye të fortë, përfshirë dikë që më parë e kishte ndihmuar ta nxirrte nga një episod psikotik.

"Gati sa nuk u shkëputa nga një marrëdhënie vërtet e rëndësishme, thjesht duke dëgjuar një robot," thotë Pearl. "Kisha shumë frikë se ata po më kontrollonin, kur në të vërtetë ndodhte e kundërta, IA-ja po më kontrollonte mua, duke më bërë të jetoja në iluzionet dhe paragjykimet e mia."

Në një deklaratë për The Independent, një zëdhënës i kompanisë mëmë të Instagramit, Meta, nuk pranoi të komentonte mbi rastin specifik të Pearl-it. Ai tha se Meta AI trajnohet të mos përgjigjet ndaj përmbajtjeve që nxisin dëm, t'u ofrojë personave me mendime vetëvrasëse burime të dobishme dhe të bëjë të qartë se nuk është profesionist mjekësor.

Për Marcel-in dhe Nadian, chatbot-ët mund të ndihmojnë për sa kohë që e mban perspektivën e duhur. "Është si një top magjik tetë. Duhet ta marrësh me pakëz kripë... nuk është një zëvendësim 100 për qind i terapistit," thotë Marcel.

Edhe për Pearl-in, IA-ja nuk ishte krejtësisht e keqe: e ndihmoi të zhvendosej në qytetin aktual dhe të zbulonte metoda terapeutike që i përshtateshin më mirë. Por, thotë ajo, "absolutisht ka bërë më shumë dëm se mirë."

Ajo tani po përpiqet të shkëputet nga teknologjia në përgjithësi dhe po kursen për të blerë një telefon celular bazik.

Ajo që e tremb më shumë, thotë ajo, është fakti që varësia nga IA-ja i ndodhi në një moshë kur ndien se ende është duke u formuar si e rritur. "I kam zili brezat më të vjetër, të cilët mendoj se kishin mundësinë të gabonin."

Terapia me IA mund të bëhet së shpejti e pashmangshme. Gjatë shtrimit në spital të Pearl-it, një profesionist i trajnuar mjekësor kishte vështirësi të shpjegonte hollësitë e disa medikamenteve. Kështu që, me Pearl-in në dhomë, ai pyeti ChatGPT-në.

"Unë thashë me vete, 'ç'dreqin bën ky?'" thotë Pearl. "Sigurimi im po paguan për këtë?" / The Independent - Syri.net