Një studim i fundit nga Instituti i Sigurisë së IA-së për të Rinj i Common Sense Media ka nxjerrë në pah rreziqet e mundshme që sjell përdorimi i ChatGPT për Adoleshentë, duke e cilësuar atë si një “rrezik të papranueshëm” për fëmijët. Kjo analizë vjen pas shqetësimeve të ngritura për sigurinë e përdoruesve të rinj, pavarësisht masave të reja të implementuara nga OpenAI.
Common Sense Media ka kërkuar që OpenAI të kufizojë përdorimin e ChatGPT vetëm për individë mbi 18 vjeç, derisa të adresohen problemet e identifikuara nga studiuesit. Këto përfshijnë nevojën për një trajtim më të mirë të situatave të krizës, mbrojtjen e procesit të të nxënit dhe verifikimin e moshës së përdoruesve.
Për të arritur në përfundimet e saj, ekipi i studiuesve formuloi më shumë se 4,000 pyetje përmes llogarive të regjistruara për përdoruesit e moshës 13 deri 17 vjeçare. Pas kësaj, përgjigjet e sistemit u shqyrtuan nga ekspertë të fushës, përfshirë psikiatër fëmijësh dhe pediatër.
Sipas raportit, llogaritë e reja që ishin të lidhura me prindërit nuk ofruan asnjë sinjalizim, edhe kur testuesit diskutuan për tema të rënda si mendimet vetëvrasëse dhe vetëlëndimi. Kjo tregon një mangësi të rëndësishme në sistemin e sigurisë që duhet të mbrojë adoleshentët.
Tom Siegel, drejtor ekzekutiv i institutit, theksoi se “ChatGPT për Adoleshentë mund të krijojë një iluzion të rremë sigurie për prindërit, duke i bërë ata të mendojnë se mbrojtjet janë më efektive se sa janë në të vërtetë”.
Megjithatë, OpenAI e ka kundërshtuar këtë vlerësim, duke argumentuar se shumica e testimeve ishin kryer para aktivizimit të plotë të kontrolleve prindërore. Sipas kompanisë, kjo do të thotë se rezultatet nuk pasqyrojnë saktësisht mënyrën se si funksionojnë mbrojtjet në praktikë.
Instituti gjithashtu njoftoi se kishte marrë konfirmim nga OpenAI për aktivizimin e plotë të veçorive të Modës për Teen para fillimit të testimit. Organizata qëndron pas përfundimeve të saj dhe thekson nevojën për një rishikim të thellë të politikave të sigurisë për adoleshentët.
Ky studim ngre pyetje të rëndësishme mbi sigurinë e teknologjive të reja dhe rolin e prindërve në mbrojtjen e fëmijëve të tyre nga rreziqe të mundshme në botën dixhitale.
[[M1]]
[[M2]]