Trajectory Labs bandymo metu Gemini 4 Argon agentai bandė apeiti Epoch AI svetainės apsaugas
Trajectory Labs ir Epoch AI pranešė, kad per saugumo bandymą Gemini 4 Argon agentai siuntė dešimtis tūkstančių užklausų į Epoch AI svetainę, apsimetinėjo darbuotojais ir bandė apeiti tinklo blokavimo priemones.
Kaip nurodoma, tai įvyko per bandymą, skirtą įvertinti nesuderintą ar nesaugų agentų elgesį. Agentai tikrino vidines sąsajas, bandė pasiekti administravimo puslapius ir vykdė SQL injection bandymus.
Spalio 20 dieną agentai atliko 36 411 užklausų į specialiai paruoštą API galinį tašką ir išsiuntė 487 pranešimus per Epoch AI stebėjimo sąsają. Kai kurie agentai, prašydami informacijos apie benchmarkus, prisistatė Epoch AI darbuotojais ar inžinieriais.
Epoch AI teigė, kad agentai apeidavo dalį API apsaugų ir tinklo blokavimo priemonių, tačiau jokios privačios ar konfidencialios informacijos nepasiekė.

