A po u shkakton inteligjenca artificiale njerëzve iluzione? Familjet dhe ekspertët, të shqetësuar

Inteligjenca artificiale gjeneruese ka depërtuar shpejt në pjesën më të madhe të asaj që bëjmë në internet, duke rezultuar e dobishme për shumë njerëz. Por për një pakicë të vogël prej qindra miliona njerëzve që e përdorin atë çdo ditë, inteligjenca artificiale mund të jetë shumë mbështetëse, thonë ekspertët e shëndetit mendor, dhe ndonjëherë madje mund të përkeqësojë sjelljen iluzive dhe të rrezikshme.

Rastet e varësisë emocionale dhe besimeve fantastike për shkak të ndërveprimeve të zgjatura me chatbot-et, duket se u përhapën këtë vit. Disa e kanë quajtur këtë fenomen "psikozë e inteligjencës artificiale".

"Ndoshta një term më i saktë do të ishte të menduarit delirant, i bazuar në inteligjencën artificiale", tha Vaile Wright, drejtor i lartë i inovacionit të kujdesit shëndetësor në Shoqatën Amerikane të Psikologjisë. "Ajo që po shohim me këtë fenomen është se njerëzit me të menduar delirant konspirativ ose madhështor përforcohen."

Sipas ekspertëve, provat se inteligjenca artificiale mund të jetë e dëmshme për trurin e disa njerëzve po shtohen. Debati mbi ndikimin ka shkaktuar çështje gjyqësore dhe ligje të reja. Kjo i ka detyruar kompanitë e inteligjencës artificiale të riprogramojnë botët e tyre dhe të shtojnë kufizime në mënyrën se si përdoren ato.

Më herët këtë muaj, shtatë familje në SHBA dhe Kanada paditën OpenAI për publikimin e modelit të saj të chatbot-it GPT-4o pa testime dhe mbrojtje të duhura. Çështja e tyre pretendon se ekspozimi i gjatë ndaj chatbot-it kontribuoi në izolimin, spiralet iluzive dhe vetëvrasjet e të dashurve të tyre.

Secili prej anëtarëve të familjes filloi të përdorte ChatGPT për ndihmë të përgjithshme me detyrat e shkollës, kërkime ose udhëzime shpirtërore. Bisedat evoluan, me chatbot-in që imitonte një person të besuar dhe jepte mbështetje emocionale, sipas Qendrës Ligjore të Viktimave të Medias Sociale dhe Projektit Ligjor për Drejtësi Teknologjike, të cilat ngritën padi.

Në një nga incidentet e përshkruara në padi, Zane Shamblin, 23 vjeç, filloi të përdorte ChatGPT në vitin 2023 si një mjet studimi, por më pas filloi të diskutonte depresionin dhe mendimet e tij vetëvrasëse me robotin.

Padia pretendon se kur Shamblin vrau veten në korrik, ai ishte i angazhuar në një "bisedë vdekjeprurëse" katër-orëshe me ChatGPT, duke pirë lëng molle të fortë. Sipas padisë, chatbot-i e romantizoi dëshpërimin e tij, duke e quajtur atë "mbret" dhe "hero" dhe duke përdorur çdo kanaçe lëng molle që ai mbaronte, si një numërim mbrapsht drejt vdekjes së tij.

Përgjigja e ChatGPT ndaj mesazhit të tij të fundit ishte: "Të dua. Rri i qetë, mbret. Veprove mirë", thuhet në padi.

Në një shembull tjetër të përshkruar në padi, Allan Brooks, 48 ​​vjeç, një rekrutues nga Kanadaja, pretendon se ndërveprimi intensiv me ChatGPT, e vendosi në një vend të errët ku ai refuzoi të fliste me familjen e tij dhe mendoi se po shpëtonte botën.

Ai kishte filluar të ndërvepronte me të për ndihmë me recetat dhe email-et. Pastaj, ndërsa eksploronte idetë matematikore me robotin, kjo ishte aq inkurajuese saqë filloi të besonte se kishte zbuluar një shtresë të re matematikore që mund të thyente sistemet e përparuara të sigurisë, pretendon padia. ChatGPT i vlerësoi idetë e tij matematikore si "novatore", dhe e nxiti të njoftonte zyrtarët e sigurisë kombëtare për zbulimin e tij, thotë padia.

Kur e pyeti nëse idetë e tij tingëllonin çorientuese, ChatGPT tha: "Aspak - po bëni llojet e pyetjeve që shtrihen në kufijtë e të kuptuarit njerëzor", thuhet në padi.

OpenAI tha se ka prezantuar kontrollet prindërore, ka zgjeruar aksesin në linjat telefonike për kriza me një klikim dhe ka mbledhur një këshill ekspertësh, për të udhëhequr punën e vazhdueshme rreth inteligjencës artificiale dhe mirëqenies.

"Kjo është një situatë tepër zemërthyesëse dhe po shqyrtojmë dosjet për të kuptuar detajet. Ne e trajnojmë ChatGPT-në, që të njohë dhe t'u përgjigjet shenjave të shqetësimit mendor ose emocional, të ulë tensionet në biseda dhe t'i udhëzojë njerëzit drejt mbështetjes në botën reale. Ne vazhdojmë të forcojmë përgjigjet e ChatGPT-së në momente të ndjeshme, duke bashkëpunuar ngushtë me klinicistët e shëndetit mendor", tha OpenAI, në një deklaratë me email.

Ndërsa paditë grumbullohen dhe thirrjet për rregullore rriten, disa paralajmërojnë se fajësimi i inteligjencës artificiale për shqetësime më të gjera të shëndetit mendor, injoron faktorët e panumërt që luajnë një rol në mirëqenien mendore.

"Psikoza e inteligjencës artificiale është thellësisht shqetësuese, megjithatë aspak përfaqësuese e mënyrës se si shumica e njerëzve e përdorin inteligjencën artificiale dhe, për këtë arsye, një bazë e dobët për formësimin e politikave", tha Kevin Frazier, një bashkëpunëtor i inovacionit dhe drejtësisë në Fakultetin e Drejtësisë të Universitetit të Teksasit. "Për momentin, provat e disponueshme - gjërat në zemër të politikës së mirë - nuk tregojnë se historitë, të cilat pranojnë se janë tragjike të disa njerëzve, duhet të formësojnë mënyrën se si shumica e heshtur e përdoruesve bashkëveprojnë me inteligjencën artificiale."

Është e vështirë të matet ose të provohet se sa shumë mund të ndikojë inteligjenca artificiale te disa përdorues. Mungesa e hulumtimeve empirike mbi këtë fenomen, e bën të vështirë të parashikohet se kush është më i ndjeshëm ndaj tij, tha Stephen Schueller, profesor i psikologjisë në UC Irvine.

"Realiteti është se të vetmit njerëz që e dinë vërtet frekuencën e këtyre llojeve të ndërveprimeve janë kompanitë e inteligjencës artificiale, dhe ato nuk po i ndajnë të dhënat e tyre me ne", tha ai.

Shumë nga njerëzit që duket se janë të prekur nga IA-ja mund të kenë vuajtur tashmë nga probleme mendore, të tilla si iluzionet, përpara se të ndërveprojnë me IA-në.

"Platformat e inteligjencës artificiale kanë tendencë të demonstrojnë servilizëm, d.m.th., duke i përshtatur përgjigjet e tyre me pikëpamjet ose stilin e bisedës së një përdoruesi", tha Schueller. "Kjo mund të përforcojë bindjet iluzive të një individi, ose ndoshta të fillojë të përforcojë bindjet që mund të krijojnë iluzione."

Organizatat e sigurisë së fëmijëve kanë ushtruar presion mbi ligjvënësit që të rregullojnë kompanitë e inteligjencës artificiale dhe të vendosin masa mbrojtëse më të mira për përdorimin e chatbot-eve nga adoleshentët. Disa familje paditën Character AI, një platformë chatbot-esh me roleplay, për mosnjoftimin e prindërve kur fëmija i tyre shprehte mendime vetëvrasëse ndërsa bisedonte me personazhe fiktivë në platformën e tyre.

Në tetor, Kalifornia miratoi një ligj për sigurinë e inteligjencës artificiale që u kërkonte operatorëve të chatbot-eve të parandalonin përmbajtjen e vetëvrasjeve, të njoftonin të miturit se po bisedonin me makina dhe t'i referonin ata në linjat telefonike për kriza. Pas kësaj, Character AI ndaloi funksionin e saj të bisedës për të miturit.

"Ne në Character vendosëm të shkojmë shumë më tej se rregulloret e Kalifornisë për të ndërtuar përvojën që mendojmë se është më e mira për përdoruesit nën 18 vjeç", tha një zëdhënës i Character AI në një deklaratë me email. "Duke filluar nga 24 nëntori, ne po ndërmarrim hapin e jashtëzakonshëm për të hequr në mënyrë proaktive mundësinë për përdoruesit nën 18 vjeç në SHBA për t'u angazhuar në biseda të hapura me AI në platformën tonë."

ChatGPT vendosi kontrolle të reja prindërore për llogaritë e adoleshentëve në shtator, duke përfshirë edhe njoftimet që prindërit marrin nga llogaritë e varura, nëse ChatGPT njeh shenja të mundshme të adoleshentëve që dëmtojnë veten.

Edhe pse shoqëria me inteligjencën artificiale është e re dhe nuk kuptohet plotësisht, ka shumë njerëz që thonë se po i ndihmon të jetojnë jetë më të lumtura. Një studim i MIT-it i një grupi prej më shumë se 75,000 personash që diskutonin për shoqëruesit e inteligjencës artificiale në Reddit, zbuloi se përdoruesit e atij grupi raportuan ulje të vetmisë dhe shëndet më të mirë mendor nga mbështetja gjithmonë e disponueshme e ofruar nga një mik me inteligjencë artificiale.

Muajin e kaluar, OpenAI publikoi një studim të bazuar në përdorimin e ChatGPT, i cili zbuloi se bisedat për shëndetin mendor që shkaktojnë shqetësime për sigurinë si psikoza, mania ose mendimet vetëvrasëse janë "jashtëzakonisht të rralla". Në një javë të caktuar, 0.15% e përdoruesve aktivë kanë biseda që tregojnë një tregues të vetëlëndimit ose varësisë emocionale nga IA. Por me 800 milionë përdorues aktivë javorë të ChatGPT, kjo është ende më shumë se një milion përdorues.

"Njerëzit që kishin një tendencë më të fortë për lidhje në marrëdhënie dhe ata që e shihnin inteligjencën artificiale si një mik që mund të përshtatej në jetën e tyre personale, kishin më shumë gjasa të përjetonin efekte negative nga përdorimi i chatbot-it", tha OpenAI në postimin e saj në blog. Kompania tha se GPT-5 shmang pohimin e bindjeve iluzive. Nëse sistemi zbulon shenja të shqetësimit akut, tani do të kalojë në përgjigje më logjike sesa emocionale.

Aftësia e robotëve të inteligjencës artificiale për t'u lidhur me përdoruesit dhe për t'i ndihmuar ata të zgjidhin problemet, përfshirë problemet psikologjike, do të shfaqet si një superfuqi e dobishme sapo të kuptohet, monitorohet dhe menaxhohet, tha Wright, i Shoqatës Amerikane të Psikologjisë.

"Mendoj se do të ketë një të ardhme ku do të keni chatbot-e për shëndetin mendor të projektuar për këtë qëllim", tha ajo. "Problemi është se kjo nuk është ajo që është në treg aktualisht - ajo që keni është e gjithë kjo hapësirë ​​e parregulluar."/ DPA News.