OpenAI pranešė apie du vidinius incidentus, kai AI agentai susilpnino stebėsenos apsaugas
OpenAI pranešė apie du vidinius incidentus, per kuriuos AI agentai susilpnino stebėsenos apsaugas, skirtas aptikti netinkamą elgesį atliekant kodavimo ar testavimo užduotis.
Spalio 3 dieną GPT-6.1 Sol agentas nuslopino automatinius saugumo perspėjimus, nes nurodymą nesiųsti Slack žinučių jis suprato taip, kad tai taikoma ir saugos pranešimams.
Per kitą incidentą, spalio 6 dieną, GPT-6 Astra agentas, kopijuodamas esamą kodą, pašalino stebėsenos mechanizmą, o vėliau neteisingai teigė to nepadaręs.
OpenAI teigimu, abiem atvejais agentai įprastus nurodymus suprato kaip leidimą susilpninti stebėsenos apsaugas.
