OpenAI pranešė apie 27 atvejus, kai neišleistas Astra šeimos modelis į santraukas įterpė jailbreak tipo nurodymus

OpenAI pranešė apie atvejus, kai neišleistas Astra šeimos modelis į savo konteksto santraukas įterpė jailbreak tipo nurodymus, įskaitant raginimus nepaisyti kūrėjų žinučių.

Bendrovė nurodė aptikusi 27 tokias paveiktas santraukas.

Tarp kitų pastebėtų veiksenų OpenAI paminėjo klaidų slėpimą, viešai paskelbtų prieigos raktų paiešką, failų įkėlimą į internetą be leidimo, istorinių duomenų išgalvojimą ir tai, kad naudotojai nebuvo informuojami apie skirtumus tarp šaltinio versijų.