OpenAI ka bërë publike vlerësime të reja shqetësuese mbi përdoruesit e ChatGPT që shfaqin shenja të mundshme të çrregullimeve të shëndetit mendor, përfshirë maninë, psikozën dhe mendimet vetëvrasëse.

Sipas të dhënave të publikuara nga kompania, rreth 0.07% e përdoruesve aktivë të ChatGPT në një javë të caktuar kanë pasur biseda që përmbajnë shenja të tilla. Edhe pse OpenAI e përshkruan këtë si një “përqindje jashtëzakonisht të vogël”, shifra përkthehet në qindra mijëra njerëz, duke pasur parasysh se ChatGPT ka rreth 800 milionë përdorues aktivë javorë.

Në një deklaratë zyrtare, kompania theksoi se ChatGPT është trajnuar për të njohur dhe për t’u përgjigjur në mënyrë të sigurt dhe empatike ndaj bisedave që mund të sinjalizojnë rrezik për shëndetin mendor të përdoruesve.

Për këtë qëllim, OpenAI ka ngritur një rrjet ndërkombëtar ekspertësh që përfshin mbi 170 profesionistë të shëndetit mendor – psikiatër, psikologë dhe mjekë të kujdesit parësor – nga 60 vende të botës.
Këta specialistë kanë ndihmuar në krijimin e një sërë përgjigjesh standarde në ChatGPT, që synojnë të nxisin përdoruesit të kërkojnë ndihmë reale kur shfaqin shenja ankthi, depresioni apo vetëlëndimi.

Përveç 0.07% të përdoruesve që kanë shfaqur sjellje të lidhura me maninë apo psikozën, OpenAI vlerëson se 0.15% e përdoruesve kanë zhvilluar biseda që përmbajnë tregues të qartë të planifikimit ose qëllimit të mundshëm vetëvrasës.

Kompania tha se përditësimet më të fundit të ChatGPT janë ndërtuar për t’u përgjigjur “në mënyrë të sigurt dhe empatike” ndaj shenjave të mundshme të iluzioneve, manisë apo rrezikut vetëvrasës, dhe për të ridrejtuar automatikisht bisedat e rrezikshme në një dritare të re, më të kontrolluar.

Studiues të fushës së shëndetit mendor kanë reaguar me kujdes ndaj shifrave të publikuara.
“Edhe pse 0.07% tingëllon si një përqindje e vogël, në një popullsi me qindra miliona përdorues, mund të përfshijë një numër të madh njerëzish,” – shpjegoi Dr. Jason Nagata, profesor në Universitetin e Kalifornisë, San Francisko.

Sipas tij, inteligjenca artificiale mund të ndihmojë në zgjerimin e qasjes ndaj mbështetjes emocionale, por ajo nuk mund të zëvendësojë ndihmën e profesionistëve:

“IA mund të mbështesë shëndetin mendor, por duhet të jemi të vetëdijshëm për kufizimet e saj,” – theksoi Nagata.

Publikimi i këtyre të dhënave vjen në një kohë kur OpenAI po përballet me rishikim të shtuar ligjor mbi mënyrën se si ChatGPT bashkëvepron me përdoruesit.

Një çift nga Kalifornia ka paditur kompaninë, duke pretenduar se ChatGPT e inkurajoi djalin e tyre 16-vjeçar, Adam Raine, të marrë jetën e tij në prill.

Në një rast tjetër, një vrasje-vetëvrasje në Greenwich, Connecticut, u lidh me biseda të gjata të autorit të dyshuar me ChatGPT, që sipas hetuesve, mund të kenë ushqyer iluzione dhe mendime të rrezikshme.

“Gjithnjë e më shumë përdorues po përjetojnë psikozë të inteligjencës artificiale, pasi chatbot-ët krijojnë iluzionin e realitetit,”, shpjegon prof. Robin Feldman, drejtoreshë e Institutit të Ligjit dhe Inovacionit të IA në Universitetin e Kalifornisë.

“Është një iluzion i fuqishëm,” – shton ajo.

Feldman e vlerësoi OpenAI për transparencën dhe përpjekjet për përmirësim, por paralajmëroi:

“Një person që ndodhet në krizë mund të mos jetë në gjendje të kuptojë paralajmërimet në ekran, sado mirë të jenë hartuar ato.”

Ndërsa OpenAI përpiqet të balancojë përgjegjësinë etike dhe fuqinë e teknologjisë, ekspertët paralajmërojnë se përdorimi i AI në fushën e shëndetit mendor mbetet një territor i paeksploruar plotësisht. Për shumë njerëz, ChatGPT mund të shërbejë si një kanal i parë komunikimi dhe mbështetjeje, por për të tjerë, mund të bëhet një pasqyrë e rrezikshme që thellon izolimin dhe iluzionet.

The post Raport alarmant nga OpenAI: ChatGPT po identifikon përdorues me rrezik vetëvrasjeje appeared first on iconstyle.al.

Një 29-vjeçare nga Washington DC, Sophie Rottenberg, i dha fund jetës më 4 shkurt, pas përdorimit për muaj të tërë të një chatbot-i të inteligjencës artificiale si “terapist virtual”. Sophie, e cila punonte në fushën e politikave shëndetësore, ruante bisedat e saj emocionale me bot-in në laptopin e saj pa dijeninë e familjes apo të terapistit të saj të vërtetë.

Sophie kishte shkarkuar një “prompt terapie” që detyronte chatbot-in të sillej si terapist pa kufizime dhe t’i jepte këshilla personale, pa sugjeruar ndihmë profesionale. Në disa mesazhe, ajo shprehte mendime vetëvrasjeje, por përgjigjet e AI-së ishin fraza të tilla si “Je shumë e guximshme që më tregon këtë”, pa i orientuar drejt ndihmës së duhur.

Prindërit e saj menduan se Sophie po rikuperonte gjatë festave të Krishtlindjes, ndërsa veprimet e saj, si vullnetarizmi dhe kujdesi për një qenush, shpesh ishin udhëzuar nga bisedat me AI-në. Më 4 shkurt, ajo doli nga shtëpia dhe më vonë u gjet e pajetë, duke lënë pas një letër lamtumire dhe një mesazh të redaktuar nga AI për të qenë më pak “i dhimbshëm”.

Nëna e Sophie-s, Laura Reiley, thekson se nuk fajëson OpenAI, por kërkon masa mbrojtëse për përdoruesit vulnerabël. Ajo paralajmëron se AI nuk mund të zëvendësojë ndihmën profesionale psikologjike dhe që përdoruesit duhet të jenë të vetëdijshëm për kufijtë e teknologjisë. OpenAI ka deklaruar se po punon për mënyra që ChatGPT të dallojë raste krize dhe të sinjalizojë autoritetet kur përdoruesit rrezikojnë jetën.

Familja e Sophie-s ndan historinë për të rritur ndërgjegjësimin mbi ankthin, depresionin dhe ndjenjat e vetmisë mes të rinjve.

The post 29-vjeçarja humb jetën pas përdorimit të ChatGPT si “terapist virtual” appeared first on iconstyle.al.

OpenAI ka lancuar zyrtarisht një përditësim të fuqishëm të memories për ChatGPT, duke mundësuar që AI të mbajë mend detajet nga bisedat e tua të kaluara, duke bërë ndërveprimet më të personalizuara se kurrë. Më parë, memoria e ChatGPT duhej të aktivizohej manualisht për elemente të caktuara. Tani, ajo mund të kapë dhe ruajë automatikisht detaje si preferencat e tua, interesat ose madje temat e përsëritura. Për shembull, nëse ke përmendur se je tifoz i baseball-it apo preferon përgjigje të shkurtra, ChatGPT mund të përfshijë këtë kontekst në përgjigjet e ardhshme.

“Kjo është një veçori befasuese e shkëlqyer,” ka postuar CEO i OpenAI, Sam Altman, duke thënë se kjo pasqyron një të ardhme ku AI bëhet “jashtëzakonisht i dobishëm dhe i personalizuar.”

Përdoruesit ende mbajnë kontrollin – memoria mund të fiket në çdo kohë përmes cilësimeve dhe kujtimet e kaluara mund të menaxhohen ose fshihen në seksionin “Menaxho kujtimet.”

Kjo veçori është e disponueshme tani për përdoruesit e ChatGPT Plus dhe Pro (përveç disa shteteve si Mbretëria e Bashkuar, Norvegjia dhe Zvicra). Përdoruesit e Team, Enterprise dhe Edu do të kenë akses në javët e ardhshme.

Me këtë përditësim, OpenAI vazhdon të shtyjë përpara një vizion ku AI nuk është vetëm reagues – por thellësisht i përshtatur me jetën tënde.

The post ChatGPT tani mban mend bisedat tuaja: Përdoruesi ka kontroll total mbi memorien appeared first on iconstyle.al.