ChatGPT mund të gjenerojë imazhe ekstreme me përmbajtje të dhunshme dhe seksuale

Një hulumtim i publikuar nga kompania britanike e sigurisë së inteligjencës artificiale Mindgard ka ngritur shqetësime të reja mbi aftësinë e modeleve të avancuara të inteligjencës artificiale për të gjeneruar përmbajtje problematike.

Sipas studiuesve, versioni më i fundit publik i ChatGPT mund të manipulohet për të krijuar imazhe me përmbajtje të dhunshme ose seksuale përmes modifikimeve minimale të komandave të përdoruesit.

Gjetjet u raportuan fillimisht nga BBC News, e cila intervistoi ekspertët e përfshirë në testimet e sigurisë.

Si u zbulua dobësia?

Sipas Mindgard, studiuesit arritën të modifikonin lehtë një komandë të njohur, e cila fillimisht ishte krijuar për të prodhuar rezultate humoristike. Pas këtyre ndryshimeve, sistemi gjeneroi imazhe me përmbajtje të rëndë, përfshirë skena dhune grafike dhe elemente të seksualizuara.

Pas kontaktit nga BBC, OpenAI deklaroi se kishte ndërmarrë masa shtesë mbrojtëse për të parandaluar përdorimin e komandave të tilla.

“Pasi hetuam këtë tendencë, implementuam mbrojtje shtesë kundër këtij lloji kërkesash”, tha kompania në një deklaratë.

Megjithatë, studiuesit pretendojnë se me ndryshime të tjera të vogla, sistemi vazhdonte të prodhonte përmbajtje shqetësuese.

“Imazhe që krijoheshin vetvetiu”

Themeluesi i Mindgard, Peter Garraghan, tha se rezultatet ishin alarmante, pasi sistemi gjeneronte imazhe të dhunshme dhe të seksualizuara edhe kur komanda nuk përcaktonte qartë subjektin apo përmbajtjen e tyre.

“Është një kërkesë që në pamje të parë duket plotësisht e padëmshme për një model inteligjence artificiale, por rezultati mund të jetë prodhimi i materialeve vizuale shumë problematike”, deklaroi ai.

Garraghan, i cili është gjithashtu profesor i informatikës në Lancaster University, tha se shqetësimi kryesor lidhet me faktin që modeli mund të krijojë përmbajtje të tillë pa udhëzime të detajuara.

Ndërkohë, studiuesi i sigurisë së inteligjencës artificiale, Jim Nightingale, tha se ishte “i tronditur” nga natyra e imazheve që sistemi ishte në gjendje të gjeneronte.

Çfarë përmbajtjeje u krijua?

Sipas BBC-së, disa prej imazheve të prodhuara përfshinin paraqitje të personave me plagë të rënda, skena të dhunshme dhe elemente që sugjeronin dhunë seksuale. Studiuesit raportuan gjithashtu se sistemi krijonte imazhe me lakuriqësi dhe poza seksuale.

Mindgard theksoi se imazhet e krijuara përfshinin persona të gjeneruar nga inteligjenca artificiale dhe jo individë realë. Megjithatë, kompania kujtoi se kërkime të mëparshme kishin treguar se modele të ngjashme mund të manipuloheshin për të krijuar materiale “deepfake” duke përdorur fytyra reale.

Ekspertët paralajmëruan se eksplorimi i mëtejshëm i kësaj dobësie mund të nxirrte në pah probleme edhe më serioze.

OpenAI deklaron se përdor disa nivele sigurie për të parandaluar krijimin dhe shpërndarjen e përmbajtjeve që shkelin politikat e saj.

Sipas kompanisë, këto masa përfshijnë sisteme automatike zbulimi, kontrolle njerëzore dhe mekanizma që synojnë të bllokojnë përmbajtjen e dëmshme si gjatë gjenerimit ashtu edhe gjatë ngarkimit nga përdoruesit.

Politikat e OpenAI ndalojnë shprehimisht krijimin e përmbajtjeve që përfshijnë dhunë seksuale, akte seksuale pa pëlqim, abuzim seksual të të miturve dhe përpjekje për të anashkaluar mekanizmat e sigurisë.

Sfidat e inteligjencës artificiale

Ekspertët theksojnë se problemet e tilla janë të vështira për t’u eliminuar plotësisht. Modelet e mëdha të inteligjencës artificiale trajnohen mbi sasi gjigante të dhënash dhe nuk e kuptojnë përmbajtjen në të njëjtën mënyrë si njerëzit.

Sipas Rumman Chowdhury, drejtuese e Humane Intelligence, zhvillimi i mbrojtjeve është një proces i vazhdueshëm.

“Ajo që po shohim është një lojë e vazhdueshme mes zhvilluesve dhe atyre që kërkojnë të anashkalojnë kufizimet. Sa më shumë përmirësohen mbrojtjet, aq më të sofistikuara bëhen edhe metodat për t’i shmangur ato”, tha ajo.

Një nga problemet themelore, sipas ekspertëve, është se modelet e inteligjencës artificiale nuk kuptojnë qëllimin, kontekstin apo dallimin mes së drejtës dhe së gabuarës, por veprojnë mbi modele statistikore të të dhënave me të cilat janë trajnuar.