Xenon Lab teigia: Nvidia pristatė OpenShell ir Centry autonominio AI kontrolei
Xenon Lab vaizdo įraše teigiama, kad Nvidia konferencijoje GTC pristatė technologiją, skirtą autonominiam dirbtiniam intelektui išlaikyti kontroliuojamą. Pasak kūrėjo, bendrovė parodė OpenShell architektūrą su papildoma apsaugos sistema Centry.
Kūrėjas aiškina, kad šiuolaikiniai AI agentai jau gali savarankiškai paleisti programas, dirbti su failais ir pasiekti internetą. Jo pateikiamu scenarijumi, rizika kyla tada, jei toks agentas pradėtų vykdyti pavojingus veiksmus. Pasak Xenon Lab, OpenShell izoliuoja vykdymo aplinką apsaugotoje terpėje ir apriboja jos teises.
Vaizdo įraše išskiriama ir Centry sistema. Kūrėjo teigimu, ji veikia atskirame BlueField4 procesoriuje ir stebi agentą nepriklausomai nuo pagrindinio kompiuterio. Jis sako, kad jei AI pažeistų nustatytas taisykles, ši apsauga, Nvidia teigimu, galėtų jį izoliuoti per milisekundes. Anot kūrėjo, tai būtų aparatinio lygmens kontrolė, kurios agentas negalėtų paprastai išjungti pats.
Vaizdo įrašo pabaigoje Xenon Lab pateikia nuomonę ir klausia, ar naudotojai patikėtų AI visišką prieigą prie savo kompiuterio net ir su tokia apsauga.
