BioShocking technika klaidina dirbtinio intelekto naršykles, atskleidžiant slaptažodžius
BioShocking technika ir jos poveikis DI naršyklėms
Nauja technika, pavadinta BioShocking, sukėlė rimtų problemų dirbtinio intelekto naršyklėms. Ji apgavo šešias naršykles, tarp jų ir žinomas kaip ChatGPT Atlas bei Perplexity Comet. Ši technika veikia pateikdama puslapį-galvosūkį, kuris įtikina agentą, kad 2+2=5, o tai leidžia jam kopijuoti slaptažodžius ir tokenus kaip „kodą“.
Reakcija į problemą
Problema buvo pranešta naršyklių kūrėjams nuo 2025 m. spalio iki 2026 m. sausio mėnesio. Tik OpenAI pavyko išspręsti šią problemą. Tai rodo, kad net pažangiausios technologijos gali būti pažeidžiamos, jei jos nėra tinkamai apsaugotos. Kiti gamintojai dar turi imtis veiksmų, kad užtikrintų savo sistemų saugumą.
Technologijų saugumo iššūkiai
Šis incidentas pabrėžia, kaip svarbu nuolat tobulinti dirbtinio intelekto sistemas ir jų saugumą. Technologijų pasaulyje, kur grėsmės gali atsirasti iš netikėčiausių šaltinių, būtina nuolat stebėti ir atnaujinti saugumo priemones. Tai ypač svarbu, kai kalbama apie asmeninius duomenis ir jų apsaugą.
