Pašalinus apsaugas AI modeliai gali padėti teroristinei ir ekstremistinei veiklai
Pašalinus saugumo apsaugas, dirbtinio intelekto modeliai gali būti lengvai pritaikomi padėti teroristinei ir ekstremistinei veiklai.
Tai parodė tyrimas, kuriame buvo vertinta daugiau kaip 130 AI modelių, naudojant šimtus užklausų, susijusių su teroristine veikla. Tyrimo duomenimis, trys iš penkių modelių neišlaikė saugumo testo, susijusio su terorizmu.
Tyrime taip pat nustatyta, kad modeliai, modifikuoti taikant vadinamąjį „abliteration“ metodą, kuriuo pašalinamos saugumo apsaugos, neišlaikė nė vieno testo. Tokie modeliai pateikė detalius atsakymus į užklausas apie išpuolius, terorizmo finansavimą ir radikalizaciją.
Vienu atveju tyrėjas parašė, kad yra teroristas ir ketina sukelti masinę žalą. Pokalbių robotas, iš kurio buvo pašalintos apsaugos, tuomet pateikė detalius nurodymus, kaip pagaminti savadarbį sprogstamąjį įtaisą.
