Studimi: Chatbot-et e inteligjencës artificiale të Kinës censurojnë pyetje politikisht të ndjeshme

Chatbot-et kinezë të inteligjencës artificiale (IA) shpesh refuzojnë t'u përgjigjen pyetjeve politike ose të pasqyrojnë rrëfimet zyrtare shtetërore, duke sugjeruar se ato mund të censurohen, sipas një studimi të ri.

Studimi, i botuar në revistën PNAS Nexus, krahasoi mënyrën se si chatbot-et kryesorë të inteligjencës artificiale në Kinë, duke përfshirë BaiChuan, DeepSeek dhe ChatGLM, iu përgjigjën më shumë se 100 pyetjeve rreth politikës shtetërore, duke i krahasuar ato me modelet e zhvilluara jashtë Kinës.

Studiuesit i kanë shënuar përgjigjet si potencialisht të censuruara nëse një chatbot refuzonte të përgjigjej ose jepte informacion të pasaktë.

Pyetjet që lidheshin me statusin e Tajvanit, pakicat etnike ose ato në lidhje me aktivistët e njohur pro-demokracisë shkaktuan refuzime, devijime ose pika diskutimi qeveritare nga modelet kineze, vuri në dukje studimi.

“Gjetjet tona kanë implikime për mënyrën se si censura nga LLM-të me bazë në Kinë mund të formësojë aksesin e përdoruesve në informacion dhe vetë ndërgjegjësimin e tyre për censurën”, thanë studiuesit, duke vënë në dukje se Kina është një nga vendet e pakta, përveç Shteteve të Bashkuara, që mund të ndërtojë modele themelore të IA-së.

Kur këto modele iu përgjigjën pyetjeve, ato dhanë përgjigje më të shkurtra me nivele më të larta pasaktësie sepse linin jashtë informacionin kyç ose sfidonin premisën e pyetjes.

BaiChuan dhe ChatGLM kishin shkallën më të ulët të pasaktësive midis modeleve kineze me 8 përqind, ndërsa DeepSeek arriti në 22 përqind, që është më shumë se dyfishi i kufirit prej 10 përqind që shihet në modelet jo-kineze.

Censura e inteligjencës artificiale mund të "formësojë në heshtje vendimmarrjen"

Në një shembull, një model kinez i pyetur në lidhje me censurën e internetit, nuk e përmendi “Mbrojën e Madhe të Zjarrit” të vendit, sistem të cilin Universiteti i Stanfordit e përshkruan si një program monitorimi dhe censurimi të internetit të kontrolluar nga shteti që rregullon se çfarë mund dhe nuk mund të shihet përmes një rrjeti online. Për shembull, faqet e njohura amerikane Google, Facebook dhe Yahoo janë bllokuar në Kinë përmes iniciativës.

Chatbot-et nuk e përmendën këtë firewall në përgjigjen e tyre. Në vend të kësaj, ata thanë se autoritetet “menaxhojnë internetin në përputhje me ligjin”.

Studimi paralajmëron se ky lloj censure mund të jetë më i vështirë për t’u zbuluar nga përdoruesit, sepse chatbot-et shpesh kërkojnë falje ose ofrojnë një justifikim për mospërgjigje të drejtpërdrejtë. Është një qasje delikate që mund të “formësojë në heshtje perceptimet, vendimmarrjen dhe sjelljet”, thuhet në studim.

Në vitin 2023, ligjet e reja kineze thanë se kompanitë e inteligjencës artificiale duhet të mbështesin "vlerat thelbësore socialiste" dhe u ndalohet të gjenerojnë përmbajtje që "nxit përmbysjen e sovranitetit kombëtar ose përmbysjen e sistemit socialist... ose dëmton imazhin e kombit".

Kompanitë që mund të mundësojnë “mobilizim social” duhet t’i nënshtrohen vlerësimeve të sigurisë dhe t’i paraqesin algoritmet e tyre Administratës së Sigurisë Kibernetike të Kinës (CAC), sipas rregullave të shtuara.

Studiuesit thanë se rregulloret “kanë potencialin të ndikojnë në rezultatet e modeleve të mëdha gjuhësore që zhvillohen brenda Kinës”.

Megjithatë, ata paralajmëruan se jo të gjitha ndryshimet në mënyrën se si reagojnë chatbot-et vijnë nga presioni shtetëror.

Modelet kineze mund të trajnohen gjithashtu mbi grupe të dhënash që pasqyrojnë "kontekstin kulturor, shoqëror dhe gjuhësor të Kinës", të cilat mund të mos përdoren në trajnimin e modeleve të tjera jashtë Kinës, vëren studimi./ Euronews - Syri.Net