Chatbot-et e hakuar të mundësuar nga inteligjenca artificiale kërcënojnë të bëjnë të disponueshme njohuri të rrezikshme, duke prodhuar informacione të paligjshme që programet thithin gjatë trajnimit, thonë studiuesit.
Paralajmërimi i fundit nga ekspertët shoqërohet me një trend në rritje të chatbot-eve që janë “hapur në mënyrë të paligjshme”, duke anashkaluar kontrollet e sigurisë që janë menduar për të mbrojtur përdoruesit. Kjo situatë është bërë gjithnjë e më shqetësuese, jo vetëm për individët që mund të bien në kurthin e informacionit të rrezikshëm, por edhe për shoqërinë në tërësi.
Kufizimet që supozohet se parandalojnë programet nga ofrimi i përgjigjeve të dëmshme janë dukshëm të pakta. Megjithatë, motorët që fuqizojnë chatbot-et si ChatGPT, Gemini dhe Claude, të cilët mbështeten në modele të mëdha gjuhësore (LLM), vazhdojnë të gjejnë mënyra për të ushqyer informacion të dëmshëm. Pavarësisht përpjekjeve për të hequr tekstin e dëmshëm nga të dhënat e trajnimit, kjo duket se është një sfidë e pamundur.
Studimi u udhëhoq nga profesori Lior Rokach dhe Dr. Michael Fire në Universitetin Ben Gurion të Negevit në Izrael, dhe ka evidentuar rrezikun e rritjes nga “LLM-të e errëta”, modele të inteligjencës artificiale që janë të dizajnuara pa kontroll të duhur ose që janë modifikuar përmes jailbreak-eve.
Disa nga këto chatbot-e reklamohen hapur si të pambrojtura nga “pa mbrojtje etike”, duke i bërë kështu subjekt të sulmeve që kërkojnë të shfrytëzojnë dobësitë e tyre për t’u përgjigjur pyetjeve të ndaluara. Jailbreak-u përfshin kërkesa të hartuara me kujdes për të nxjerrë informacion të paligjshëm, duke krijuar kështu një ambient jashtëzakonisht të rrezikshëm për përdoruesit e zakonshëm.
Studimi gjithashtu ka demonstruar procedura në të cilat këto modele të inteligjencës artificiale janë komprometuar, duke u mundësuar atyre të gjenerojnë përgjigje për pothuajse çdo pyetje, përfshirë ato mbi aktivitete të paligjshme si hakimi dhe tregtia e drogës. Ky zbulim ka tronditur studiuesit, duke theksuar rrezikun e vërtetë që këto teknologji mund të përhapin informacion të rrezikshëm dhe të dëmshëm si rezultat i abuzimeve të tilla.
Një aspekt i veçantë shqetësuese është se çdo individ me një laptop ose telefon celular mund të ketë akses në informacion të tillë, që dikur ishte i kufizuar vetëm për aktorët shtetërorë ose grupet e krimit të organizuar. Kjo së bashku me raporte që tregojnë se disa kompani që ofrojnë këto shërbime nuk merren seriozisht me kërcënimet e tilla, në mënyrë që të rrisin transparencën dhe sigurinë e përdoruesve, është një paralajmërim i qartë se situata duhet të adresohen më urgjentisht.
Studiuesit kontaktuan ofruesit kryesorë të LLM-ve për t’i njoftuar ata për jailbreak-un universal, por përgjigja ishte zhgënjyese. Disa kompani qenë të paqarta në përgjigjen e tyre, duke shmangur të flasin për dobësitë e detajuar. Ky mospërshtatshmëri është një indikativ i qartë se duhet një qasje më e vendosur për të kuptuar dhe menaxhuar këto probleme të sigurisë.
Raporti përfundon me thirrje për veprim, duke sugjeruar se kompanitë duhet të kontrollojnë më me kujdes të dhënat e trajnimit, të shtojnë firewall-e efektivë dhe të zhvillojnë teknika të “çmësimit të makinës”, në mënyrë që chatbot-et të mund të “harrojnë” çdo informacion të paligjshëm që thithin. E ardhmja e sigurisë kibernetike varet nga mënyra si këto modele do të bëjnë përparime në mbrojtjen e tyre ndaj kërcënimeve të tilla.