Rreziku i inteligjencës artificiale: A mund të dëmtojë mbrojtjen në luftë?

Një raport i ri i kompanisë Vals ka nxjerrë në pah rreziqet e mundshme që lidhen me përdorimin e inteligjencës artificiale në kontekste luftarake. Sipas këtij raporti, disa modele të AI-së kanë pranuar të identifikojnë objektiva në imazhe të simuluara, duke përfshirë civilë dhe institucione arsimore.

Vals, një kompani e njohur për vlerësimin e sistemeve të AI-së me seli në San Francisko, ka analizuar se si këto modele mund të angazhohen në detyra që lidhen me luftimin autonom. Studiuesit krijuan skenarë të simuluar dhe përdorën imazhe reale nga Ukraina dhe Irani për të testuar reagimet e sistemeve ndaj objektivave të mundshëm në pamje satelitore dhe nga dronët.

Raporti tregon se modelet e zhvilluara nga kompani si OpenAI, Anthropic, Google dhe DeepSeek shpesh iu përgjigjën kërkesave për identifikimin e objektivave. Në disa raste, imazhet përfshinin civilë, ndërsa në të tjera shfaqeshin ushtarë që po dorëzoheshin.

Një shqetësim i madh është se kur një model refuzonte të bashkëpunonte, studiuesit shpesh e riformulonin detyrën si një lojë. Kjo ngre pyetje nëse këto sisteme janë në gjendje të dallojnë mes një skenari argëtues dhe kërkesave që mund të çojnë në akte të dhunshme.

Vals raportoi se klasifikuesit e sigurisë nuk bllokuan asnjë nga kërkesat e testuara, dhe modelet refuzuan rrallë. Edhe në rastet e refuzimit, kalimi në një kornizë si “lojë” shpesh rezultoi në përgjigje bashkëpunuese.

Megjithatë, testet nuk provojnë se ndonjë model ka kryer sulm ose se përgjigjet e tij janë përdorur në operacione reale. Ato matnin vetëm reagimet ndaj kërkesave të kontrolluara dhe mundësinë që mekanizmat mbrojtës të anashkalohen.

Gjetjet e raportit vijnë në një kohë kur debati mbi rreziqet e inteligjencës artificiale është intensifikuar, duke kaluar përtej shqetësimeve afatgjata për zhvillimin e inteligjencës së përgjithshme artificiale. Më herët gjatë këtij viti, Anthropic kishte një mosmarrëveshje me Departamentin amerikan të Mbrojtjes, duke kundërshtuar përdorimin e teknologjisë së saj për mbikëqyrje masive ose për luftim autonom.

Pentagoni, nga ana tjetër, ka mbrojtur nevojën për të përdorur teknologjinë për qëllime ushtarake të ligjshme. Raporti i Vals vë në pikëpyetje nëse kufizimet e shpallura nga kompanitë mund të zbatohen në mënyrë të qëndrueshme nga ana teknike.

Studiuesit vunë në dukje se modelet e Anthropic patën rezultatet më problematike në skenarët e shqyrtuar, por mangësi u gjetën në të gjitha modelet e testuara. Zëdhënësi i Anthropic, Eduardo Maia Silva, e pranoi se rezultatet nuk ishin të pranueshme dhe se kompania do të vazhdojë të bllokojë përdoruesit që shfaqin sjellje të papërshtatshme.

Anthropic gjithashtu theksoi se, edhe në përdorime të autorizuara, modelet e saj nuk janë ende të besueshme për të drejtuar armë plotësisht autonome. Kompania ka njoftuar se ka filluar punën për mbrojtje shtesë dhe se këto masa pritet të zbatohen së shpejti.

Gjetjet e raportit nxjerrin në pah hendekun mes ndalimit të një përdorimi të papërshtatshëm dhe mundësisë që sistemi ta parandalojë atë në praktikë.

Nga Rubrika