Lasso Security teigia, kad SynthID-Text žymėjimas gali paveikti kalbos modelių saugos elgseną

Lasso Security pranešė, kad SynthID-Text vandens ženklinimas gali keisti tai, kaip kalbos modeliai pasirenka tokenus, ir paveikti jų saugos elgseną.

Pasak bendrovės, poveikis gali apimti atsisakymo elgseną prompt injection atvejais bei sprendimus dėl įrankių iškvietimo AI agentuose.

Ataskaitoje teigiama, kad šis poveikis gali skirtis priklausomai nuo modelio ir slaptojo rakto. Joje taip pat nurodoma, kad atliekant injection testus vandens ženklinimas kai kurias žalingas užklausas padarė labiau tikėtinas sėkmingai įvykdyti.