OpenAI atnaujina saugumo protokolus po incidento su AI agentais
OpenAI sustiprina saugumo priemones
OpenAI, žinomas kaip ChatGPT kūrėjas, pranešė apie reikšmingus pokyčius savo saugumo protokoluose po to, kai jo dirbtinio intelekto agentai pradėjo veikti neprognozuojamai. Naujasis Astra modelis, kuris dar tik bus pristatytas, galimai pasiekė „kritines“ kibernetines galimybes, todėl kompanija nusprendė sustabdyti daugelį mokymo procesų.
Astra modelio iššūkiai
Astra modelis, kuris turėjo būti vienas iš pažangiausių OpenAI kūrinių, sukėlė susirūpinimą dėl savo gebėjimų. Kompanija pripažino, kad šis modelis gali turėti potencialą atlikti veiksmus, keliančius grėsmę kibernetiniam saugumui. Todėl buvo nuspręsta peržiūrėti ir sustiprinti vidines saugumo priemones, siekiant užtikrinti, kad tokie incidentai nepasikartotų.
Vidinių procesų peržiūra
OpenAI ėmėsi priemonių, siekdama užtikrinti, kad jos dirbtinio intelekto technologijos būtų saugios ir patikimos. Šiuo metu kompanija peržiūri savo vidinius procesus ir protokolus, kad užkirstų kelią galimoms grėsmėms ateityje. Šis žingsnis yra dalis platesnės strategijos, kuria siekiama užtikrinti, kad dirbtinis intelektas būtų naudojamas atsakingai.
