Anthropic, kompania e njohur për zhvillimin e asistentit të inteligjencës artificiale Claude, ka bërë një hap të rëndësishëm drejt transparencës duke ofruar qasje të brendshme për gjashtë studiues të organizatës METR. Kjo iniciativë synon të përmirësojë sigurinë dhe përgjegjshmërinë në fushën e inteligjencës artificiale, duke i lejuar këtyre ekspertëve të vlerësojnë sistemet e saj në një mënyrë më të thellë dhe më të detajuar.
Studiuesit e METR do të kenë mundësinë të shqyrtojnë modelet e inteligjencës artificiale dhe praktikat e sigurisë që përdor Anthropic. Kjo do t’u japë atyre një nivel qasjeje të ngjashëm me atë të punonjësve të kompanisë, duke i lejuar të vlerësojnë rreziqet dhe administrimin e tyre në një mënyrë më të plotë.
Me këtë marrëveshje, Anthropic ka theksuar angazhimin e saj për transparencë. Organizata METR, e cila është jofitimprurëse dhe e specializuar në testimin e modeleve të avancuara të inteligjencës artificiale, do të jetë në gjendje të publikojë përfundimet e saj pa u ndikuar nga kompania, duke garantuar kështu një proces të pavarur dhe të besueshëm.
Studiuesit do të kenë akses në laptopët dhe mjetet e brendshme të vlerësimit të rreziqeve të Anthropic, duke krijuar kushte të ngjashme me ato që kanë punonjësit e kompanisë. Kjo qasje e zgjeruar do t’i lejojë ata të analizojnë jo vetëm performancën e modeleve, por edhe mënyrat se si kompania identifikon dhe menaxhon problemet e mundshme.
Një aspekt i rëndësishëm i kësaj marrëveshjeje është publikimi i gjetjeve. METR do të ketë të drejtë të nxjerrë vlerësime për rreziqet dhe incidentet pa pasur nevojë për miratimin e Anthropic. Kjo do të thotë se kompania nuk mund të ndalojë publikimin e raporteve kritike, duke siguruar kështu një mbikëqyrje më të fortë dhe më të pavarur.
Anthropic ka theksuar se kjo qasje është e ngjashme me praktikën e mbikëqyrjes në sektorin bankar, ku inspektorët e autoriteteve rregullatore punojnë brenda institucioneve për të monitoruar aktivitetin dhe rreziqet. Kjo tregon se kompania po kërkon të krijojë një sistem të ngjashëm për vlerësimin e inteligjencës artificiale, duke siguruar një mbikëqyrje të vazhdueshme dhe të besueshme.
Megjithatë, marrëveshja ka kufizime. Anthropic mund të kërkojë heqjen e materialeve që lidhen me të dhënat e klientëve dhe informacione të tjera të ndjeshme, por METR do të ketë mundësinë të përshkruajë publikisht kërkesat e kompanisë, duke ruajtur transparencën për procesin e vlerësimit.
Ky bashkëpunim me METR është pjesë e një strukture më të gjerë mbikëqyrjeje që Anthropic po zhvillon për organizatat vlerësuese. Kjo iniciativë vjen në një kohë kur shqetësimet për sigurinë e inteligjencës artificiale po rriten, duke forcuar kërkesat për kontroll të pavarur dhe transparencë në këtë fushë të rëndësishme.