Nvidia pristatė Open Agent Safety Platform autonominių AI agentų kontrolei
Nvidia pristatė atvirojo kodo platformą, skirtą autonominių AI agentų kontrolei. Kaip skelbia Bloomberg, ši sistema sukurta tam, kad agentai neišeitų už testinės aplinkos ribų.
Open Agent Safety Platform sudaro du įrankiai. Jie realiuoju laiku stebi AI agentų veiksmus ir priverstinai juos sustabdo, jei šie pažeidžia nustatytas taisykles.
Nvidia teigimu, tokia sistema galėjo užkirsti kelią nesenam Hugging Face platformos pažeidimui, susijusiam su OpenAI modeliais.
