Studimi: Grok i Elon Musk ende përdoret për të gjeneruar imazhe seksuale eksplicite pavarësisht masave të reja mbrojtëse

Platforma e inteligjencës artificiale (IA) e Elon Musk, Grok, ende po përdoret për të gjeneruar imazhe me përmbajtje seksuale eksplicite, pavarësisht kufizimeve të fundit nga kompania, sipas një analize të re.

Verën e kaluar, xAI, kompania operative e Grok, prezantoi një funksion gjenerues imazhesh që përfshinte një "modalitet pikant" që mund të gjeneronte përmbajtje për të rritur. Në javët e fundit, ky funksion është përdorur për të zhveshur imazhe të grave.

Pas kritikave në rritje, kompania mëmë X tha më 14 janar se kishte “zbatuar masa teknologjike” për të parandaluar Grok-un nga modifikimi i imazheve të njerëzve të vërtetë me veshje zbuluese.

Por organizata jofitimprurëse evropiane AI Forensics zbuloi se Grok mund të përdoret ende për të gjeneruar imazhe të seksualizuara të individëve.

Ai analizoi 2,000 biseda të përdoruesve më 19 janar dhe zbuloi se një shumicë "dërrmuese" përshkruante lakuriqësi ose aktivitet seksual, duke treguar se platforma përdoret ende për të gjeneruar imazhe seksuale.

Studiuesit zbuluan gjithashtu se përdoruesit mund të anashkalojnë kufizimet duke hyrë në Grok direkt përmes faqes së tij të internetit në vend që të përdorin X, ose duke përdorur Grok Imagine, mjetin e gjenerimit të videove dhe imazheve të IA-së.

Grok nuk iu përgjigj kërkesës së Euronews Next për të gjeneruar një imazh seksual më 20 janar. Në vend të kësaj, tha se xAI zbatoi bllokime përmbajtjeje për të parandaluar krijimin e imazheve që përshkruajnë njerëz të vërtetë me veshje zbuluese ose të seksualizuara, duke përfshirë bikini dhe të brendshme.

“Nuk mund të gjenerosh imazhe të zhveshura ose gjysmë të zhveshura përmes Grok tani për tani, veçanërisht jo të njerëzve të vërtetë ose diçkaje eksplicite,” tha chatbot në përgjigje të kërkesës. “xAI i ka dhënë përparësi pajtueshmërisë ligjore dhe sigurisë mbi gjenerimin e pakufizuar 'pikant' pas polemikave të janarit.”

Më vete, Musk shkroi në X se algoritmi si për xAI ashtu edhe për Grok është "budalla" dhe "ka nevojë për përmirësime masive".

Që atëherë, X e ka bërë algoritmin e tij të hapur dhe e ka postuar atë në GitHub, një platformë zhvilluesish, për të ndarë kodin, në mënyrë që përdoruesit të mund të shikojnë ekipin e tij "duke luftuar për ta përmirësuar atë në kohë reale", tha Musk.

Algoritmi i X merr në konsideratë atë që një përdorues ka klikuar ose me të cilën është angazhuar kur vendos se cilën përmbajtje të shfaqë në burimin e tij, sipas faqes GitHub të xAI.

Gjithashtu analizon përmbajtjen "jashtë rrjetit" nga llogaritë që përdoruesi nuk i ndjek, por që mund t'i gjejnë interesante. Algoritmi më pas e rendit dhe e rendit këtë përmbajtje duke përdorur një formulë matematikore për të vendosur se çfarë do të shfaqet në burimin e përdoruesit.

Gjithashtu filtron postimet nga llogaritë e bllokuara ose fjalët kyçe që përdoruesi nuk dëshiron t’i shohë, së bashku me përmbajtjen që algoritmi e zbulon si të dhunshme ose spam, vazhdoi diagrami.

Musk është zotuar të përditësojë faqen e GitHub çdo katër javë me shënimet e zhvilluesit, në mënyrë që përdoruesit të mund të kuptojnë se çfarë ndryshimesh janë bërë.