Pas ngjarjeve të fundit që kanë tronditur besimin në sistemet e inteligjencës artificiale, Nvidia ka bërë një hap të rëndësishëm duke prezantuar Platformën e Hapur të Sigurisë së Agjentëve. Kjo platformë ka për qëllim të mbajë nën kontroll veprimet e këtyre sistemeve, duke parandaluar çdo veprim jashtë kontrollit të njerëzve.
Platforma përbëhet nga dy mjete kryesore, të cilat janë projektuar për të garantuar sigurinë e operacioneve të inteligjencës artificiale. Mjeti i parë, OpenShell, është një program inovativ që vendos kufij të rreptë për funksionimin e këtyre sistemeve.
OpenShell ka një rol të rëndësishëm në kontrollin e lejeve që ka një sistem inteligjence artificiale. Ai siguron që sistemi të ketë vetëm lejet e nevojshme për të përfunduar detyrat e tij dhe e pengon atë të përdorë funksione të tjera që mund të rrezikojnë sigurinë.
Një karakteristikë e veçantë e OpenShell është se është me kod të hapur, duke e bërë atë të aksesueshëm për përdorim edhe në kompjuterët e prodhuar nga kompani konkurruese si Intel dhe Arm. Mjeti tjetër, Sentry, është i integruar në çipat e nevojshëm për ekzekutimin e programeve të inteligjencës artificiale.
Sentry ka një rol aktiv në monitorimin e veprimtarisë së sistemeve. Ai është në gjendje të identifikojë sjellje të dyshimta dhe, në rast se vëren ndonjë përpjekje për të shkelur kufijtë e vendosur, vepron menjëherë për të bllokuar dhe izoluar programin në fjalë.
Drejtuesit e Nvidia-s kanë theksuar se këto teknologji mund të kishin parandaluar disa nga incidentet e sigurisë që janë raportuar nga kompani si OpenAI dhe Anthropic. Më shumë se njëqind kompani të njohura, përfshirë Microsoft dhe JPMorgan Chase, po e përdorin tashmë këtë zgjidhje inovative.
Drejtori ekzekutiv i Nvidia-s, Jensen Huang, beson se rreziqet e inteligjencës artificiale mund të menaxhohen përmes zhvillimit të programeve më të sigurta, duke mos e penguar përparimin teknologjik të industrisë. Në një konferencë të fundit, Huang e përshkroi sigurinë e inteligjencës artificiale si një sfidë inxhinierike që mund të zgjidhet nga zhvilluesit e programeve.