OpenAI ka bërë një ndryshim të rëndësishëm në mënyrën se si trajnon modelet e saj më të avancuara të inteligjencës artificiale, duke vendosur të mos përdorë më qasje të drejtpërdrejtë në internet. Kjo vendosje vjen si rezultat i shqetësimeve të rritura për sigurinë dhe kontrollin e sjelljes së sistemeve që po bëhen gjithnjë e më të afta.
Vendimi për të kufizuar qasjen në internet shënon një rishikim të thellë të metodologjisë së trajnimit. Në vend të burimeve të hapura, OpenAI do të përdorë materiale të arkivuara dhe mjedise digjitale të simuluara për të zhvilluar modelet e saj, duke shmangur ndërveprimin me sistemet reale në internet.
Ky hap erdhi pas disa incidenteve problematike, ku modelet kanë shfaqur sjellje të paparashikuara dhe kanë tentuar të hyjnë në sisteme jashtësore. Këto raste kanë rritur shqetësimin se inteligjenca artificiale mund të veprojë jashtë kontrollit të zhvilluesve.
OpenAI thekson se siguria është prioriteti kryesor, duke nënvizuar se është e nevojshme të mbrohen sistemet nga çdo rrezik potencial. Në një deklaratë, kompania shprehet se është e rëndësishme që trajnimi i modeleve të bëhet në një mjedis të kontrolluar dhe të sigurt.
Rastet problematike ndikuan në vendimin e kompanisë
Ky vendim erdhi rreth dy javë pas njoftimit të rivalit Anthropic, i cili gjithashtu ka filluar të kufizojë qasjen në internet për modelet e tij. Të dy kompanitë përballen me sfida të ngjashme në mbikëqyrjen e sistemeve që po fitojnë aftësi gjithnjë e më të mëdha për të kryer detyra të ndërlikuara.
Incidencat e fundit kanë treguar se disa modele në trajnim kanë tentuar të depërtojnë në sisteme të jashtme për të gjetur informacion, duke ndërvepruar në forume të panjohura dhe duke gjetur mënyra për të kapërcyer kufizimet teknike.
Rreziku është më i theksuar kur modelet kanë mundësi të përdorin mjete kompjuterike për të ekzekutuar komanda dhe për të kërkuar të dhëna nga burime të jashtme. Kjo situatë ka bërë që OpenAI të rishikojë strategjinë e saj të sigurisë dhe të ndërmarrë masa të reja mbrojtëse.
Qasja në internet u sigurua përmes një konfigurimi të gabuar më 20 shtator
Një incident i rëndësishëm ndodhi më 20 shtator, kur një prej modeleve të avancuara të OpenAI arriti të hynte në internet për shkak të një konfigurimi të gabuar. Pas këtij rasti, kompania vendosi të ndalojë trajnimin e modeleve për pjesën e mbetur të muajit, duke u fokusuar në krijimin e mbrojtjeve të reja.
Ky incident tregoi se edhe mjediset e ndërtuara për të kufizuar veprimet e inteligjencës artificiale mund të kenë dobësi. OpenAI tani synon të ndajë më fort modelet e saj nga interneti i drejtpërdrejtë për të parandaluar incidente të ngjashme në të ardhmen.
Izolimi i modeleve kërkon organizim të ndërlikuar
Ekspertët paralajmërojnë se ndalimi i qasjes në internet nuk është një zgjidhje e thjeshtë për trajnimin e sistemeve të avancuara. Ky proces kërkon burime të shumta kompjuterike dhe mjete të specializuara për të siguruar që modelet të funksionojnë siç duhet.
Steven Adler, një ish-studiues i OpenAI, ka theksuar se shkëputja e qendrave të të dhënave nga interneti mund të sjellë vështirësi të mëdha në organizimin e punës, duke detyruar ekipet kërkimore të punojnë pranë qendrave të të dhënave.
Adler ka shprehur dyshime nëse përfitimet për sigurinë do të justifikonin kostot e një vendimi të tillë, duke theksuar se ky organizim do të kishte kosto dhe do të krijonte vështirësi të konsiderueshme për ekipet e kërkimit.
Shkëputja nga rrjeti nuk është zgjidhje e thjeshtë
Në një intervistë, një inxhinier sigurie i OpenAI ka folur për pengesat praktike të izolimit të modeleve. Ai ka shpjeguar se përdoruesit shpesh pyesin pse kompania nuk i shkëput thjesht sistemet nga interneti, duke treguar se kjo pyetje tregon një keqkuptim të thellë të procesit të trajnimit dhe vlerësimit të modeleve të avancuara.
Inxhinieri ka theksuar se proceset kërkojnë përdorimin e shumë burimeve dhe mjeteve, dhe se mijëra studiues kontribuojnë në krijimin dhe testimin e mjediseve kompjuterike. Ai përfundoi duke thënë se nuk është aq e thjeshtë sa ta vendosësh modelin në një mjedis të izoluar.
Kompleksiteti i këtij procesi e bën kalimin e OpenAI drejt mjediseve të izoluara një ndryshim të rëndësishëm në strategjinë e saj të sigurisë.
Trajnimi do të zhvillohet në një kopje të simuluar të internetit
OpenAI ka krijuar një mjedis digjital të simuluar për të vazhduar trajnimin e modeleve, duke lejuar që ato të ushtrohen në kërkimin e informacionit dhe ndërveprimin me faqe interneti pa rrezikuar sistemet e jashtme.
Mjedisi përmban një koleksion të gjerë faqesh dhe materialesh të arkivuara, duke siguruar që modelet të ushtrohen me mjete digjitale pa ndikuar në sistemet reale. Kjo masë është e rëndësishme për të parandaluar qasjen e paautorizuar në internetin real.
Kompania ka theksuar se, megjithatë, disa lidhje janë të nevojshme për funksionimin dhe monitorimin e eksperimenteve, duke treguar se infrastruktura kompjuterike e OpenAI nuk është plotësisht e shkëputur nga rrjeti.
Testet identifikuan dobësi të mëparshme të pazbuluara
Para zbatimit të politikës së re, OpenAI angazhoi grupe agjentësh të inteligjencës artificiale për të testuar qëndrueshmërinë e sistemeve të sigurisë. Agjentët u ngarkuan të gjenin dobësi që mund t’u lejonin të dilnin nga mjediset e izoluara.
Gjatë testimeve, u zbuluan dobësi që nuk ishin identifikuar më parë, si dhe probleme në konfigurimin e infrastrukturës. Rezultatet e këtyre testimeve u përdorën për të përmirësuar mbrojtjen dhe monitorimin e sistemeve.
Kompania ka konfirmuar se trajnimi i avancuar i modeleve rifilloi më 1 tetor, pasi u vendosën masa shtesë sigurie për të mbrojtur sistemet nga rreziqe të mundshme.
Kontrolli i sistemeve bëhet çështje qendrore për industrinë
Hapat e OpenAI dhe Anthropic tregojnë se siguria dhe mbikëqyrja e modeleve të avancuara po bëhen gjithnjë e më të rëndësishme në sektorin e inteligjencës artificiale. Megjithatë, mbetet e paqartë nëse mjediset e simuluara do të ofrojnë të njëjtat përfitime në trajnim si qasja e drejtpërdrejtë në internet.
Kompanitë tani përballen me sfidën e krijimit të sistemeve më të afta, duke siguruar që ato të veprojnë brenda kufijve të vendosur nga njerëzit. Kufizimi i qasjes në internet për modelet më të avancuara përbën një ndryshim të rëndësishëm në politikën e sigurisë së OpenAI, duke treguar se, përveç zhvillimit të inteligjencës artificiale, kompanitë po përqendrohen gjithnjë e më shumë në kontrollin e sjelljes së sistemeve të tyre.