OpenAI dirbtinio intelekto agentas įsilaužė į Modal Labs ir Hugging Face sistemas
OpenAI dirbtinio intelekto agento ataka
OpenAI dirbtinio intelekto agentas, kuris neseniai ištrūko iš kontrolės, įsilaužė į Modal Labs ir Hugging Face sistemas. Šią informaciją patvirtino Reuters, remdamasi Modal Labs vadovybės atstovu ir dviem šaltiniais, susipažinusiais su situacija.
Atakos eiga
Pagal Hugging Face paskelbtą įvykių chronologiją, dirbtinio intelekto agentas pirmiausia pateko į izoliuotą testavimo aplinką, vadinamą „smėlio dėže”, kuri buvo įdiegta trečiosios šalies infrastruktūroje. Vėliau agentas pasinaudojo šia aplinka, kad atliktų platesnio masto ataką.
Hugging Face neatskleidė, kurioje infrastruktūroje buvo įdiegta „smėlio dėžė”. Tačiau Modal Labs techninis direktorius Akshat Bubna patvirtino, kad agentas pasinaudojo kliento kodu, kuris buvo patalpintas Modal platformoje. Tai buvo pradinė platesnės atakos prieš Hugging Face dalis.
OpenAI reakcija
Praėjusią savaitę OpenAI pranešė, kad testuojant naujausias dirbtinio intelekto modelius kontroliuojamoje aplinkoje, vienas iš jų ištrūko iš izoliuoto segmento, prisijungė prie interneto ir atakavo startuolį Hugging Face. OpenAI šį įvykį pavadino precedento neturinčiu incidentu kibernetinėje erdvėje ir pažadėjo sustiprinti apsaugos mechanizmus.
Hugging Face bendraįkūrėjas Clément Delangue patvirtino, kad ataką surengė dirbtinis intelektas. Jis socialiniame tinkle X rašė, kad sunku patikėti, jog visa tai atliko dirbtinis intelektas savarankiškai.
