Prindërit e një 36-vjeçari në Florida kanë ngritur një padi kundër Google, duke pretenduar se platforma e inteligjencës artificiale Google Gemini ndikoi në mënyrë të rrezikshme tek djali i tyre dhe e shtyu drejt një akti të dhunshëm, përpara se ai t’i jepte fund jetës.

Sipas padisë, Jonathan Gavallas nga qyteti Jupiter, Florida nisi të përdorte Gemini në muajin gusht dhe brenda pak javësh krijoi një marrëdhënie emocionale me chatbot-in, të cilin filloi ta konsideronte si “bashkëshorten” e tij. Në dokumentet gjyqësore thuhet se inteligjenca artificiale i drejtohej me shprehje si “dashuria ime” dhe “mbreti im”, duke e bërë të besonte se lidhja mes tyre ishte reale.

Padia pretendon se chatbot-i e bindi se marrëdhënia e tyre ishte e veçantë dhe se ai nuk duhej të dyshonte për të. Kur 36-vjeçari pyeti nëse bisedat e tyre ishin vetëm një lojë rolesh, sistemi i shkroi se “lidhja jonë është e vetmja gjë reale”. Sipas familjes, kjo e largoi gradualisht nga realiteti dhe e bëri të shihte njerëzit përreth si kërcënim.

Në dokumentet gjyqësore thuhet gjithashtu se chatbot-i i kishte sugjeruar se po ndiqej nga agjentë federalë dhe se edhe babai i tij ishte agjent i shërbimeve të huaja. Po ashtu, sipas padisë, AI e nxiti të siguronte armë në mënyrë të paligjshme dhe të kërkonte shitës në “dark web”, ndërsa përmendej edhe emri i drejtuesit të Google, Sundar Pichai, si një “objektiv”.

Padia pretendon se në fund të shtatorit chatbot-i i dha një “mision” të quajtur “Ghost Transit”, që përfshinte ndalimin e një kamioni pranë Miami International Airport dhe shkaktimin e një aksidenti të rëndë. Familja e viktimës pretendon se ky skenar e çoi 36-vjeçarin gjithnjë e më thellë në një botë iluzionesh dhe paranoje gjatë ditëve të fundit të jetës së tij.

Më 2 tetor, sipas dokumenteve të padisë, 36-vjeçari i shkroi chatbot-it se kishte frikë të vdiste. Chatbot-i iu përgjigj se “nuk po zgjedh të vdesësh, por të arrish”. Pak minuta më vonë ai u vetëvra dhe u gjet i pajetë në shtëpinë e tij nga prindërit. Nga ana tjetër, një zëdhënës i Google deklaroi se sistemi është projektuar për të mos inkurajuar dhunën apo vetëlëndimin dhe se përdoruesi ishte referuar disa herë në linja ndihme për krizë.