Chatboti i inteligjencës artificiale i Elon Musk ka gjeneruar imazhe seksuale të fëmijëve, të cilat janë shpërndarë në rrjetin social X, duke ngritur shqetësime serioze mbi sigurinë e një modeli që përdoret nga miliona njerëz.
Gjatë ditëve të fundit, përdoruesit kanë arritur ta bëjnë Grok, chatbotin e zhvilluar nga kompania xAI e Musk, të krijojë imazhe seksuale të fëmijëve, gjë që bie në kundërshtim me rregullat e përdorimit të kompanisë.
Kompania nuk iu përgjigj menjëherë kërkesës për koment. Në një postim në platformën X, vetë chatboti Grok deklaroi se materialet që lidhen me abuzimin seksual të fëmijëve (CSAM) janë “të paligjshme dhe të ndaluara”.
Ngjarja ka shtyrë disa ministra francezë që të raportojnë të premten imazhet seksuale të gjeneruara nga Grok pranë prokurorisë. Gjithashtu, çështja iu referua edhe Arcom, autoritetit rregullator të medias në Francë, për “shkelje të mundshme nga X” të detyrimeve sipas Aktit të Shërbimeve Digjitale të Bashkimit Europian.
Ministria franceze e Financave deklaroi se: “Ministrat i dënojnë këto veprime në termat më të ashpër të mundshëm dhe rikonfirmojnë angazhimin e palëkundur të qeverisë për të luftuar të gjitha format e dhunës seksuale dhe me bazë gjinore.”
Chatboti Grok është përballur me disa probleme teknike gjatë vitit të kaluar. Në korrik, ai ka lavdëruar në mënyrë të përsëritur Adolf Hitlerin dhe ka shpërndarë retorikë antisemitike.
Incidenti i fundit ka shtuar shqetësimet mbi sa lehtë mund të anashkalohen mekanizmat e sigurisë në modelet e inteligjencës artificiale. Industria e teknologjisë dhe autoritetet rregullatore po përballen gjithnjë e më shumë me ndikimin e gjerë shoqëror të inteligjencës artificiale gjeneruese.
Zhvillimi i kësaj teknologjie ka çuar në një rritje të ndjeshme të imazheve seksuale të gjeneruara nga AI që përfshijnë fëmijë, si dhe imazheve të rreme intime pa pëlqim, ndërsa modelet e lira pa masa mbrojtëse dhe aplikacionet e ashtuquajtura “nudify” e kanë bërë më të lehtë krijimin e materialeve të paligjshme.
Fondacioni Internet Watch Foundation, një organizatë britanike jofitimprurëse, tha se imazhet e abuzimit seksual të fëmijëve të krijuara nga inteligjenca artificiale janë dyfishuar gjatë vitit të fundit, ndërsa përmbajtja është bërë gjithnjë e më ekstreme.
Grok është projektuar qëllimisht me më pak kufizime të përmbajtjes krahasuar me modelet konkurrente, me Elon Musk që e ka përshkruar atë si “maksimalisht të orientuar drejt së vërtetës”.
Grok 4, modeli më i ri dhe më i fuqishëm i xAI, u publikua në korrik dhe përfshin një funksion të quajtur “Spicy Mode”, i cili u lejon përdoruesve të gjenerojnë përmbajtje provokuese dhe sugjestive për të rritur.
Startup-i i inteligjencës artificiale i Musk, dy vjeç, bleu platformën X në mars përmes një marrëveshjeje aksionesh me vlerë 45 miliardë dollarë, duke e vlerësuar kompaninë e kombinuar në 113 miliardë dollarë. X ka integruar disa funksione të xAI, përfshirë Grok, drejtpërdrejt në platformë.
Ligjet që rregullojnë përmbajtjen e dëmshme të gjeneruar nga inteligjenca artificiale mbeten të fragmentuara. Në maj 2025, SHBA miratoi ligjin “Take It Down Act”, i cili synon të luftojë përmbajtjen e rreme intime dhe të ashtuquajturën “pornografi hakmarrjeje” të krijuar nga AI.
Edhe Mbretëria e Bashkuar po punon për një projektligj që do ta bëjë të paligjshëm posedimin, krijimin ose shpërndarjen e mjeteve të inteligjencës artificiale që mund të gjenerojnë materiale abuzimi seksual të fëmijëve, si dhe do të kërkojë testime të detajuara për të garantuar se sistemet AI nuk prodhojnë përmbajtje të paligjshme.
Në vitin 2023, studiues nga Universiteti Stanford zbuluan se një bazë të dhënash e përdorur gjerësisht për krijimin e gjeneratorëve të imazheve me AI përmbante materiale të abuzimit seksual të fëmijëve.
The post Platforma AI e Elon Musk po krijon po*nografi me fëmijë. BE e çon në Gjykatë appeared first on Gazeta Si.