BE nis hetim ndaj X për imazhe seksualisht eksplicite të bëra nga Grok AI

Komisioni Evropian ka nisur një hetim ndaj aplikacionit X të Elon Musk mbi prodhimin e imazheve me përmbajtje seksuale eksplicite, dhe përhapjen e materialeve të mundshme të abuzimit seksual me fëmijë nga funksioni i chatbot-it me inteligjencë artificiale të platformës, Grok.

Hetimi formal, i nisur të hënën, zgjeron gjithashtu një hetim mbi sistemet e rekomandimit të X, algoritmet që i ndihmojnë përdoruesit të zbulojnë përmbajtje të re.

Grok ka shkaktuar zemërim ndërkombëtar duke u lejuar përdoruesve të zhveshin në mënyrë dixhitale gratë dhe fëmijët dhe t'i vendosin ata në poza provokuese. Grok AI gjeneroi rreth 3 milionë imazhe të seksualizuara në më pak se dy javë, duke përfshirë 23,000 që dukeshin se përshkruanin fëmijë, sipas studiuesve në Qendrën për Kundërshtimin e Urrejtjes Digjitale.

Komisioni tha se hetimi i tij i ri do të “vlerësojë nëse kompania i ka vlerësuar dhe zbutur siç duhet rreziqet” që rrjedhin nga funksionalitetet e Grok në BE, duke përfshirë rreziqet për ndarjen e përmbajtjes së paligjshme, siç janë imazhet e manipuluara seksualisht eksplicite dhe “përmbajtja që mund të përbëjë” materiale abuzimi seksual me fëmijë.

Hetimi nis sipas Aktit të Shërbimeve Digjitale (DSA) të BE-së, një legjislacion relativisht i ri që synon të mbrojë përdoruesit e internetit nga një gamë e gjerë dëmesh.

Duke folur me gazetarët, një zyrtar tha se komisioni nuk ishte bindur nga masat lehtësuese të vendosura nga X për të zgjidhur problemin. Zyrtarët e BE-së po hetojnë nëse X ka sisteme për të zbutur rreziqet siç duhet.

Duke njoftuar hetimin, Henna Virkkunen, zyrtarja më e lartë e komisionit për sovranitetin teknologjik, sigurinë dhe demokracinë, tha: “Fake-et seksuale jo konsensuale të grave dhe fëmijëve, janë një formë e dhunshme dhe e papranueshme degradimi. Me këtë hetim, ne do të përcaktojmë nëse X ka përmbushur detyrimet e saj ligjore sipas DSA-së, apo nëse i ka trajtuar të drejtat e qytetarëve evropianë - përfshirë ato të grave dhe fëmijëve - si dëme anësore të shërbimit të saj.”

Regina Doherty, një eurodeputete irlandeze, tha se e mirëpriti hetimin zyrtar. “Kur dalin raporte të besueshme për përdorimin e sistemeve të inteligjencës artificiale në mënyra që dëmtojnë gratë dhe fëmijët, është thelbësore që ligji i BE-së të shqyrtohet dhe të zbatohet pa vonesë”, tha Doherty.

Në përgjigje të hetimit, X dha një link për një deklaratë që publikoi më 14 janar: “Ne mbetemi të përkushtuar për ta bërë X një platformë të sigurt për të gjithë dhe vazhdojmë të kemi tolerancë zero për çdo formë të shfrytëzimit seksual të fëmijëve, lakuriqësisë pa pëlqim dhe përmbajtjes seksuale të padëshiruar.”/ Guardian.