„NVIDIA“ rugsėjo 21 d. paskelbtame įraše DI agentų saugą apibrėžia kaip inžinerinę užduotį. Agentų sistema apima modelį, konteksto ir įrankių valdymo sluoksnį bei vykdymo aplinką, todėl kontrolė turi veikti visuose juose. Pavyzdyje kenkėjiška dokumento instrukcija paskatina agentą siųsti klientų duomenis, tačiau tinklo politika turi perdavimą blokuoti, o apsaugoti žurnalai – užfiksuoti bandymą ir rezultatą.
Bendrovė rekomenduoja kiekvienam agentui suteikti atsekamą tapatybę ir tik konkrečiai užduočiai reikalingus kredencialus. Reikšmingi veiksmai bei leidimų pakeitimai turi likti žmogaus tvirtinami. Saugos testus siūloma kartoti pasikeitus modeliui, įrankiams ar darbo eigai, o rastus gedimus paversti nuolatiniais regresiniais testais. „NVIDIA OpenShell“ pateikiamas kaip atvirojo kodo vykdymo aplinkos pavyzdys, taikantis politikas agentui nepasiekiamame sluoksnyje.
Kodėl tai svarbu?
INVIS vertinimu, tai praktiškas poslinkis nuo abstrakčių „apsaugų“ prie patikrinamų kontrolės priemonių: agento klaida neturi automatiškai tapti sistemos leidimu veikti.
