Materialet e abuzimit se**ual me fëmijë të gjeneruara nga IA në internet, rritje të ndjeshme më 2025

Sasia e materialeve të abuzimit seksual me fëmijë të gjeneruara nga inteligjenca artificiale të gjetura në internet u rrit me 14% vitin e kaluar, me shumicën e videove që tregojnë llojin më ekstrem të përmbajtjes, sipas një mbikëqyrësi të sigurisë.

Fondacioni Internet Watch tha se identifikoi 8,029 imazhe dhe video të krijuara nga inteligjenca artificiale me materiale realiste të abuzimit seksual të fëmijëve ( CSAM) në vitin 2025. Ai shtoi se kishte pasur një rritje më shumë se 260-fish të videove.

IWF tha se 65% e 3,443 videove u klasifikuan si kategoria A, termi për materialin më të rëndë sipas ligjit të Mbretërisë së Bashkuar. Shifra përkatëse për videot jo-IA ishte 43%, tha organi mbikëqyrës, duke treguar se teknologjia po përdorej për të krijuar përmbajtje më të dhunshme.

Kerry Smith, drejtoresha ekzekutive e IWF-së, tha: “Përparimet në teknologji nuk duhet të vijnë kurrë në kurriz të sigurisë dhe mirëqenies së një fëmije. Ndërsa inteligjenca artificiale mund të ofrojë shumë në një kuptim pozitiv, është e tmerrshme të mendosh se fuqia e saj mund të përdoret për të shkatërruar jetën e një fëmije. Ky material është i rrezikshëm.”

Një analist i IWF tha se bisedat midis pedofilëve në rrjetin e errët, treguan se inovacionet në teknologji “u pritën me kënaqësi” nga përdoruesit e CSAM. Diskutimet përqendrohen në rezultatet gjithnjë e më realiste të sistemeve të inteligjencës artificiale dhe, ndërsa ato përmirësohen, aftësinë e tyre për të shtuar audio në video ose për të manipuluar me sukses imazhet e një fëmije të vërtetë të njohur nga një shkelës.

IWF me seli në Mbretërinë e Bashkuar operon një linjë telefonike, dhe ka një mandat global për të monitoruar përmbajtjen e abuzimit seksual me fëmijë. Ajo tha se shkelësit po diskutonin gjithashtu mundësitë për përdorimin e sistemeve "agjente", të cilat mund të kryejnë detyra në mënyrë autonome.

Kompanitë e teknologjisë dhe agjencitë e mbrojtjes së fëmijëve po marrin fuqinë në Mbretërinë e Bashkuar për të testuar nëse mjetet e inteligjencës artificiale mund të prodhojnë CSAM, në një veprim që ministrat thanë vitin e kaluar se kishte për qëllim ndalimin e abuzimit përpara se të ndodhte.

Sipas ndryshimit, qeveria do t'u japë kompanive të caktuara të inteligjencës artificiale dhe organizatave të sigurisë së fëmijëve, leje për të shqyrtuar modelet e inteligjencës artificiale gjeneruese - teknologjia themelore për chatbot-et si ChatGPT dhe gjeneratorët e imazheve si Veo 3 i Google - dhe do të sigurojë që ata të kenë masa mbrojtëse për t'i parandaluar ata të krijojnë materiale të tilla .

«Fëmijët, viktimat dhe të mbijetuarit nuk mund të përballojnë që ne të jemi të vetëkënaqur», tha Smith. «Teknologjia e re duhet të mbahet sipas standardeve më të larta. Në disa raste, jetët janë në rrezik.»

Sasia e CSAM-ve të verifikuara nga IWF është rritur ndjeshëm ndërsa aftësia dhe disponueshmëria e sistemeve janë rritur, me rritjen e videove në veçanti.

IWF publikoi gjithashtu një sondazh që tregoi se tetë nga 10 të rritur në Mbretërinë e Bashkuar dëshironin që qeveria e Mbretërisë së Bashkuar të miratonte legjislacion që siguronte që sistemet e inteligjencës artificiale të zhvilloheshin me sigurinë si përparësi dhe "të mbrojtura nga shkaktimi i dëmit për të ardhmen". Vitin e kaluar, qeveria njoftoi një ndalim për posedimin, krijimin ose shpërndarjen e modeleve të inteligjencës artificiale të dizajnuara për të gjeneruar materiale abuzimi seksual me fëmijë./ Guardian.