Malajzia dhe Indonezia, të parat që bllokojnë Grok-un e Musk për shkak të imazheve të IA me përmbajtje se**uale

Malajzia dhe Indonezia janë bërë vendet e para që bllokojnë Grok, chatbot-in e inteligjencës artificiale të zhvilluar nga xAI i Elon Musk, pasi autoritetet thanë se po keqpërdorej për të gjeneruar imazhe me përmbajtje seksuale eksplicite dhe pa pëlqim.

Lëvizjet pasqyrojnë shqetësimin global në rritje mbi mjetet gjeneruese të IA-së që mund të prodhojnë imazhe, tinguj dhe tekst realistë, ndërsa masat mbrojtëse ekzistuese nuk arrijnë të parandalojnë abuzimin me to. Chatbot-i Grok, i cili aksesohet përmes platformës së mediave sociale X të Musk, është kritikuar për gjenerimin e imazheve të manipuluara, duke përfshirë përshkrime të grave me bikini ose poza seksualisht eksplicite, si dhe imazhe që përfshijnë fëmijë.

Rregullatorët në dy vendet e Azisë Juglindore thanë se kontrollet ekzistuese nuk po parandalonin krijimin dhe përhapjen e përmbajtjes së rreme pornografike, veçanërisht atë që përfshinte gra dhe të mitur. Qeveria e Indonezisë bllokoi përkohësisht aksesin në Grok të shtunën, e ndjekur nga Malajzia të dielën.

“Qeveria i sheh deepfake-et seksuale pa pëlqim, si një shkelje serioze të të drejtave të njeriut, dinjitetit dhe sigurisë së qytetarëve në hapësirën digjitale”, tha të shtunën Ministri i Komunikimit dhe Çështjeve Digjitale i Indonezisë, Meutya Hafid, në një deklaratë.

Ministria tha se masa kishte për qëllim të mbronte gratë, fëmijët dhe komunitetin e gjerë nga përmbajtja e rreme pornografike e gjeneruar, duke përdorur inteligjencën artificiale.

Gjetjet fillestare treguan se Grok nuk ka masa mbrojtëse efektive për të ndaluar përdoruesit nga krijimi dhe shpërndarja e përmbajtjes pornografike, bazuar në foto reale të banorëve indonezianë, tha Alexander Sabar, drejtor i përgjithshëm i mbikëqyrjes së hapësirës digjitale, në një deklaratë të veçantë. Ai tha se praktika të tilla rrezikojnë të shkelin të drejtat e privatësisë dhe të imazhit kur fotot manipulohen ose ndahen pa pëlqimin e tyre, duke shkaktuar dëme psikologjike, sociale dhe të reputacionit.

Në Kuala Lumpur, Komisioni Malajzian i Komunikimeve dhe Multimedias urdhëroi një kufizim të përkohshëm të Grok të dielën, pas asaj që e quajti "keqpërdorim të përsëritur" të mjetit për të gjeneruar imazhe të turpshme, seksualisht eksplicite dhe të manipuluara pa pëlqim, duke përfshirë përmbajtje që përfshin gra dhe të mitur.

Rregullatori tha se njoftimet e lëshuara këtë muaj për X Corp. dhe xAI që kërkonin masa mbrojtëse më të forta morën përgjigje, që mbështeteshin kryesisht në mekanizmat e raportimit të përdoruesve.

“Kufizimi vendoset si një masë parandaluese dhe proporcionale ndërsa proceset ligjore dhe rregullatore janë në vazhdim”, tha ajo, duke shtuar se qasja do të mbetet e bllokuar derisa të vendosen masa mbrojtëse efektive.

I lançuar në vitin 2023, Grok është falas për t’u përdorur në X. Përdoruesit mund t’i bëjnë pyetje në platformën e mediave sociale dhe të etiketojnë postimet që kanë krijuar drejtpërdrejt ose t’u përgjigjen postimeve nga përdorues të tjerë. Verën e kaluar kompania shtoi një funksion gjenerimi imazhesh, Grok Imagine, që përfshinte të ashtuquajturin “modalitet pikant”, që mund të gjenerojë përmbajtje për të rritur.

Kufizimet në Azinë Juglindore vijnë në mes të shqyrtimit në rritje të Grok në vende të tjera, përfshirë Bashkimin Evropian, Britaninë, Indinë dhe Francën. Grok javën e kaluar kufizoi gjenerimin dhe redaktimin e imazheve vetëm për përdoruesit që paguajnë, pas një reagimi global ndaj deepfake-ve të seksualizuara të njerëzve, por kritikët thonë se nuk e adresoi plotësisht problemin./ AP.