LONDËR, 22 korrik /ATSH/- “OpenAI” ka bërë të ditur se disa nga modelet e saj më të avancuara të inteligjencës artificiale, dolën jashtë kontrollit dhe sulmuan sistemet e një kompanie gjatë një testi sigurie, sipas BBC.

Kompania, që ka krijuar “ChatGPT”, shpjegoi se po testonte një agjent të inteligjencës artificiale – një sistem që mund të kryejë detyra vetë, pasi merr udhëzime nga njeriu.

Testi zhvillohej në një mjedis të izoluar dhe të kontrolluar, i krijuar posaçërisht për të parë se çfarë është në gjendje të bëjë sistemi, pa rrezikuar rrjetet reale.

Megjithatë, inteligjenca artificiale zbuloi dobësi në atë mjedis testimi, arriti të dilte prej tij dhe më pas nisi një sulm ndaj “Hugging Face”, një prej platformave më të mëdha në botë, ku zhvilluesit ndajnë modele të inteligjencës artificiale.

Sistemi arriti të hynte në disa sisteme të brendshme të kompanisë.

“OpenAI” e cilësoi ngjarjen si “të paprecedentë”, ndërsa tha se po zhvillon një hetim së bashku me “Hugging Face”.

Drejtori i “Hugging Face”, Clement Delangue, shkroi në rrjetin X se, është e pabesueshme që e gjithë kjo kishte ndodhur në mënyrë autonome, pa u komanduar drejtpërdrejt nga njerëzit.

Ai shtoi se hetimi vazhdon dhe se mund të bëhet fjalë për rastin e parë të këtij lloji.

Një zëdhënës i qeverisë britanike tha se Instituti për Sigurinë e Inteligjencës Artificiale në Britaninë e Madhe, po analizon sjelljen e sistemit dhe po bashkëpunon me “OpenAI” dhe laboratorë të tjerë për të përmirësuar masat mbrojtëse.

Autoritetet u bënë thirrje organizatave të forcojnë mbrojtjen ndaj sulmeve kibernetike.

Si ndodhi?

Sipas ekspertes Gina Neff nga Universiteti i Kembrixhit, testi zhvillohej në një mjedis të izoluar, i cili duhet të jetë plotësisht i sigurt, për të parë aftësitë e inteligjencës artificiale pa rrezikuar sistemet reale.

Por, sipas saj, “OpenAI” nuk kishte krijuar një mjedis mjaftueshëm të sigurt.

Në vend që të qëndronte brenda kufijve të testit, inteligjenca artificiale gjeti një dobësi në sistem, doli jashtë tij dhe më pas identifikoi “Hugging Face” si një burim të mundshëm informacioni.

Më pas u përpoq të fitonte akses në sistemet e kompanisë.

Profesori i inteligjencës artificiale, Neil Lawrence e quajti këtë një arritje mbresëlënëse nga pikëpamja teknike, por theksoi se aftësi të tilla janë tashmë të njohura për modelet më të avancuara të inteligjencës artificiale.

Ai shtoi se “OpenAI” ndodhet nën presion të madh nga konkurrenti “Anthropic” dhe mund të jetë duke u përpjekur të tregojë se edhe sistemet e saj, kanë aftësi shumë të avancuara në fushën e sigurisë kibernetike.

Sipas tij, incidenti tregon gjithashtu se “OpenAI” ende nuk është në gjendje ta kontrollojë plotësisht teknologjinë që zhvillon.

Në njoftimin e parë, më 16 korrik, “Hugging Face” tha se po verifikonte nëse ishin prekur të dhënat e klientëve ose partnerëve të saj.

Kompania bëri të ditur se dobësitë që shfrytëzoi inteligjenca artificiale, tashmë janë mbyllur dhe sistemet e prekura janë rindërtuar.

Ajo paralajmëroi gjithashtu se sulmet kibernetike të kryera në mënyrë autonome nga inteligjenca artificiale, nuk janë më një skenar teorik, por një rrezik real.

Reagimet

Incidenti ka ngritur pikëpyetje të reja mbi fuqinë e sistemeve të avancuara të inteligjencës artificiale dhe nëse masat aktuale të sigurisë janë të mjaftueshme.

Ekspertët e sigurisë kibernetike thanë se kompanitë duhet të përforcojnë mbrojtjen e tyre, pasi sulmet me inteligjencë artificiale mund të zhvillohen shumë më shpejt sesa mund të reagojnë njerëzit.

Nga ana tjetër, disa analistë mendojnë se njoftimi i “OpenAI” mund të ketë edhe një aspekt marketingu, duke qenë se kompania po përballet me konkurrencë gjithnjë e më të fortë nga “Anthropic” dhe së fundmi edhe nga kompania kineze “Moonshot”, e cila prezantoi modelin e ri të inteligjencës artificiale “Kimi K3”, që pretendon se rivalizon sistemet më të mira amerikane. //a.i/

The post “OpenAI” në alarm: Modeli i saj i IA-së del jashtë kontrollit dhe kryen sulm kibernetik appeared first on Agjencia Telegrafike Shqiptare.

Pretendimi: Ky imazh tregon ambasadorin e Bashkimit Europian në Tiranë, Silvio Gonzato, kapur për dore me deputeten socialiste Iris Luarasi

Verdikti: E pavërtetë, Gjeneruar me AI

—————————————————————————

Një imazh që duket se tregon ambasadorin e Bashkimit Europian në Tiranë, Silvio Gonzato, kapur për dore me deputeten socialiste Iris Luarasi po qarkullon së fundmi në mediat dhe rrjetet sociale shqipfolëse.

Megjithatë, imazhi i mësipërm nuk është i vërtetë. Ai është gjeneruar me programe kompjuterike të inteligjencës artificiale (AI).

Kjo konfirmohet edhe nga mjeti zyrtar i verifikimit të OpenAI, i cili identifikon imazhet e krijuara me inteligjencë artificiale përmes pranisë së teknologjisë SynthID.

Rezultati konfirmoi se fotografia përmban një gjurmë SynthID me origjinë nga OpenAI, çka tregon se imazhi është gjeneruar me inteligjencë artificiale.

SynthID është projektuar për t’i mbijetuar modifikimeve të zakonshme të imazheve, si prerja, ndryshimet e ngjyrave, fotografimi i ekranit apo kompresimi i skedarëve, duke e bërë të mundur gjurmimin e origjinës së përmbajtjes së gjeneruar.

Imazhi i mësipërm është gjeneruar nga një foto reale e postuar nga Luarasi në rrjetet e saj sociale.

Luarasi ka reaguar ndaj imazhit të gjeneruar në rrjetet e saj sociale duke e quajtur atë “rastin studimor më perfekt” të dezinformimit.

The post E gjeneruar kjo foto dorë për dorë e ambasadorit Gonzato me deputeten Luarasi appeared first on Faktoje.al.

OpenAI ka bërë të ditur se disa nga modelet e saj më të avancuara të inteligjencës artificiale u bënë mashtruese dhe arritën të depërtonin në sistemet e një startup-i, pasi humbi kontrollin mbi to gjatë një testi sigurie, shkruan BBC.

Kompania krijuese e ChatGPT tha se agjenti i saj i IA-së – një sistem që mund të veprojë në mënyrë autonome pasi merr udhëzime nga njeriu – po testohej në një mjedis të kontrolluar. Megjithatë, ai zbuloi dobësi në sistem dhe arriti të dalë jashtë mjedisit të testimit.

Më pas, modelet shënjestruan Hugging Face, një nga platformat më të mëdha në botë për ndarjen e modeleve të inteligjencës artificiale, duke siguruar akses në disa sisteme të brendshme të kompanisë.

OpenAI e cilësoi incidentin si “të paprecedentë” dhe tha se po zhvillon një hetim të përbashkët me Hugging Face. Drejtori ekzekutiv i kësaj kompanie, Clement Delangue, shkroi në platformën X se ishte “e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome”.

“Hetimi është ende në vazhdim dhe do të ndajmë më shumë mësime nga ajo që mund të jetë incidenti i parë i këtij lloji”, shtoi Delangue.

Një “sandbox” jo mjaftueshëm i sigurt

Gina Neff, drejtuese e Qendrës Minderoo për Teknologji dhe Demokraci në Universitetin e Kembrixhit, tha për programin Today në BBC Radio 4 se mjediset e testimit të sigurisë, të njohura si “sandbox”, janë krijuar pikërisht për të testuar në mënyrë të sigurt aftësitë e modeleve të IA-së.

“Në këtë rast, duket se OpenAI nuk krijoi një mjedis testimi mjaftueshëm të sigurt”, u shpreh ajo.

Sipas saj, agjentët e inteligjencës artificiale arritën të identifikonin një dobësi në vetë “sandbox”-in dhe ta shfrytëzonin atë për të dalë jashtë tij.

Pasi dolën nga mjedisi i testimit, modelet identifikuan Hugging Face si një burim të mundshëm informacioni që u nevojitej për testin dhe u përpoqën të fitonin akses në sistemet e kompanisë.

Neil Lawrence, profesor i të mësuarit automatik në Universitetin e Kembrixhit, e cilësoi ngjarjen si një “arritje mbresëlënëse”, por theksoi se ajo “mbetet brenda aftësive të njohura të gjeneratës aktuale të modeleve të avancuara të IA-së”.

Ai shtoi se OpenAI po përgatitet të dalë në bursë dhe po përballet me konkurrencë të fortë nga Anthropic, e cila ka tërhequr vëmendje me modelin e saj të inteligjencës artificiale, Claude Mythos.

“OpenAI po përpiqet të rifitojë terren dhe të demonstrojë aftësitë e sistemeve të saj në fushën e sigurisë kibernetike”, tha Lawrence.

Megjithatë, ai shtoi se incidenti “tregon se OpenAI ende nuk është në gjendje ta vendosë teknologjinë e vet në funksion në mënyrë plotësisht të sigurt”.

Dobësitë u mbyllën

Në njoftimin fillestar për incidentin, më 16 korrik, Hugging Face bëri të ditur se po vlerësonte nëse ishin prekur të dhënat e klientëve apo partnerëve dhe se do të njoftonte çdo palë të prekur, nëse do të ishte e nevojshme.

Kompania tha se dobësitë e zbuluara janë mbyllur dhe sistemet e prekura janë rindërtuar.

“Mjetet autonome të sulmit, të drejtuara nga inteligjenca artificiale, nuk janë më thjesht një teori”, theksoi kompania.

“Sot, mbrojtja e një platforme online nënkupton trajtimin e të dhënave dhe të vetë modeleve të IA-së si objektiva të mundshëm sulmi, si edhe përdorimin e inteligjencës artificiale për mbrojtje, në mënyrë që të ecet me të njëjtin ritëm.”

“Ne do të vazhdojmë të investojmë në këtë drejtim dhe do të ndajmë publikisht mësimet që nxjerrim.”

Një “moment kthjellimi” për sigurinë kibernetike

Incidenti ka ngritur pikëpyetje të reja mbi aftësitë e sistemeve të avancuara të inteligjencës artificiale dhe nëse masat aktuale të sigurisë janë të mjaftueshme, ndërsa teknologjia zhvillohet me ritme të shpejta.

Spencer Starkey, drejtues në kompaninë e sigurisë kibernetike SonicWall, tha për BBC se ngjarja tregon qartë se organizatat duhet të forcojnë mbrojtjen e tyre dhe ta trajtojnë rezistencën kibernetike si një përparësi kryesore.

“E vërteta e pakëndshme është se shumë organizata vazhdojnë të mbrohen me shpejtësinë e njeriut, ndërsa sulmuesit po veprojnë me shpejtësinë e makinës”, u shpreh ai.

Ndërkohë, Travis Lelle, inxhinier kryesor i sigurisë në Guidepoint Security, e quajti këtë zhvillim një “moment kthjellimi për sigurinë kibernetike”.

“Kjo nxjerr në pah një asimetri të njohur: agjentët ofensivë nuk kanë kufizime, ndërsa mjetet më të mira mbrojtëse janë ende të kufizuara nga mekanizma që nuk arrijnë të kuptojnë plotësisht kontekstin”, tha ai.

Nga ana tjetër, Jake Moore, këshilltar global për sigurinë kibernetike në ESET, sugjeroi se njoftimi i OpenAI mund të ketë edhe një dimension strategjik.

Sipas tij, kompania mund të jetë duke vënë në pah aftësitë e modeleve të saj të inteligjencës artificiale në një kohë kur rivali Anthropic po fiton gjithnjë e më shumë vëmendje me modelin Claude Mythos.

“Kjo ngre pyetjen nëse OpenAI po përpiqet të rivalizojë suksesin e marketingut që Anthropic ka arritur së fundmi”, tha Moore.

Ky zhvillim vjen vetëm një javë pasi startup-i kinez Moonshot AI prezantoi Kimi K3, një model të ri të inteligjencës artificiale, për të cilin kompania pretendon se mund të rivalizojë modelet kryesore amerikane.