Chatboti i inteligjencës artificiale Grok kufizon gjenerimin e imazheve pas reagimeve globale ndaj deepfake-ve të seksualizuara

Chatboti me inteligjencë artificiale, Grok, i Elon Musk, po i pengon shumicën e përdoruesve të gjenerojnë ose modifikojnë imazhe pas një reagimi global që shpërtheu pasi ai filloi të përhapte deepfake të seksualizuara , kryesisht të grave.

Chatbot-i, të cilit mund t’i qaseni përmes platformës së mediave sociale X të Musk, në javët e fundit ka pranuar një valë kërkesash të dëmshme të përdoruesve për të modifikuar imazhet, duke përfshirë vendosjen e grave me bikini ose në pozicione seksualisht eksplicite.

Studiuesit kanë paralajmëruar se në disa raste, disa imazhe dukeshin sikur përshkruanin fëmijë.

Qeveritë në mbarë botën e kanë dënuar platformën dhe kanë hapur hetime ndaj saj.

Të premten, Grok po u përgjigjej kërkesave për ndryshimin e imazheve me mesazhin: “Gjenerimi dhe redaktimi i imazheve aktualisht janë të kufizuara vetëm për abonentët që paguajnë. Ju mund të abonoheni për të zhbllokuar këto funksione.”

Ndërkohë që numrat e abonentëve për Grok nuk janë të disponueshëm publikisht, ka pasur një rënie të dukshme në numrin e deepfakes eksplicite që Grok po gjeneron tani krahasuar me ditët e mëparshme.

Ndër përgjigjet zyrtare të qeverisë, Bashkimi Evropian e ka kritikuar Grok-un për sjellje "të paligjshme" dhe "të tmerrshme", ndërsa zyrtarët në Francë, Indi, Malajzi dhe një ligjvënës brazilian kanë bërë thirrje për hetime.

Të enjten, kryeministri i Britanisë, Keir Starmer, kërcënoi me veprime të paspecifikuara kundër X.

“Kjo është e turpshme. Është e neveritshme. Dhe nuk duhet toleruar”, tha Starmer në radion Greatest Hits. “X duhet ta kuptojë këtë.”

Ai tha se rregullatori i medias në Britani, Ofcom, “ka mbështetjen tonë të plotë për të ndërmarrë veprime” dhe se “të gjitha opsionet” janë në tryezë.

"Është e neveritshme. X duhet të mblidhet dhe ta heqë qafe këtë material. Do të ndërmarrim veprime për këtë sepse thjesht nuk është e tolerueshme."

Ofcom dhe rregullatori i privatësisë i Britanisë thanë këtë javë se kanë kontaktuar kompaninë e inteligjencës artificiale xAI të X dhe Musk për informacion mbi masat që kanë ndërmarrë për t'u përputhur me rregulloret britanike.

Grok është falas për t’u përdorur nga përdoruesit e X, të cilët mund t’i bëjnë pyetje direkt në platformën e mediave sociale. Ata mund ta etiketojnë atë në postimet që kanë krijuar ose në përgjigjet e postimeve nga përdorues të tjerë.

Grok u lançua në vitin 2023. Verën e kaluar kompania shtoi një funksion gjenerimi imazhesh, Grok Imagine, i cili përfshinte të ashtuquajturin "modalitet pikant" që u lejonte përdoruesve të gjeneronin përmbajtje për të rritur.

Problemi është amplifikuar si për shkak se Musk e paraqet chatbot-in e tij si një alternativë më të ashpër ndaj rivalëve me më shumë masa mbrojtëse, ashtu edhe sepse imazhet e Grok janë të dukshme publikisht dhe për këtë arsye mund të shpërndahen lehtësisht në internet.