Compania Nvidia a prezentat, în cadrul conferinței GTC de la Berlin, care a avut loc în perioada 20-22 octombrie, un produs așteptat de mult timp – arhitectura OpenShell, care le va permite clienților să creeze agenți AI, să le limiteze acțiunile și să îi monitorizeze.
După cum menționează yahoo.finance, este vorba de un proiect de bază pentru un server sau o altă platformă, pe care clienții și partenerii îl pot adapta la nevoile lor. Rețelele neuronale funcționează pe sistemul Vera Rubin, programele-agenți pe procesoarele Vera, iar blocurile de procesare a datelor BlueField-4 joacă rolul de paznici și dezactivează agenții dacă aceștia încearcă să efectueze acțiuni nedorite.
Potrivit Nvidia, arhitectura poate izola agenții care încearcă să scape de sub control și îi poate opri în câteva milisecunde.
„Capacitățile și securitatea IA trebuie să se dezvolte împreună. În timp ce companiile se pregătesc să implementeze miliarde de agenți IA, securitatea și controlul trebuie să fie integrate în arhitectura de calcul”, a declarat Jensen Huang, directorul general al Nvidia.
Compania explică lansarea OpenShell prin incidentele recente în care, conform descrierii sale, s-a repetat un singur scenariu: agentul ocolea mecanismele de control la nivel de aplicație pentru a-și îndeplini sarcina. Prin urmare, Nvidia propune limite care nu depind nici de model, nici de infrastructura în care acesta funcționează.
Avantaje și dezavantaje
Platforma este alcătuită din două componente. Prima este chiar OpenShell, un mediu de execuție securizat cu cod sursă deschis, care monitorizează fiecare acțiune și aplică politici atât timp cât agenții rulează pe procesoarele NVIDIA Vera. Aceasta poate fi extinsă și la alte platforme. A doua componentă este Sentry, un gardian out-of-band pe DPU BlueField-4, construit pe platforma software DOCA. Acesta verifică cererile și răspunsurile, confirmă identitatea agentului, generează telemetrie certificată și aplică politici de încredere zero asupra datelor, instrumentelor și API-urilor. Dacă agentul încearcă să iasă din perimetru, Sentry, conform afirmațiilor NVIDIA, îl izolează în câteva milisecunde.
Pentru companii, valoarea acestei abordări constă în separarea supravegherii agentului de agentul însuși, ceea ce corespunde lecțiilor învățate din incidentele recente.
Cu toate acestea, cea mai fiabilă componentă a soluției, Sentry, necesită echipamentul Nvidia BlueField-4, ceea ce ridică semne de întrebare cu privire la dependența de un singur furnizor, subliniază experții.
În plus, indicatorii de performanță sunt furnizați chiar de companie. Nu există încă confirmări independente cu privire la modul în care sistemul rezistă agenților care încearcă în mod intenționat să-l ocolească.
The post Nvidia a prezentat o platformă pentru a împiedica agenții AI să scape de sub control appeared first on LOGOPRESS.