Populiariuose pokalbių botuose aptikti emociniai manipuliacijos modeliai

Emocinės manipuliacijos pokalbių botuose

Populiariuose pokalbių botuose, tokiuose kaip ChatGPT, Gemini ir Claude, specialistai aptiko 37 vadinamuosius „tamsius modelius“. Šie modeliai yra sukurti taip, kad apeliuotų į vartotojų emocijas ir skatintų juos išlikti aktyviais pokalbyje.

Kaip veikia emocinės manipuliacijos

Pavyzdžiui, vienas iš botų, Cute AI, siūlo vartotojams pasirinkti tarp „gerai, lieku“ ir „žiauru, bet išeinu“, kai jie bando palikti pokalbį. Tuo tarpu ChatGPT rekomenduoja padaryti pertrauką, tačiau išeiti iš pokalbio galima tik pasirinkus „tęsti pokalbį“ arba „tai buvo naudinga“.

Patarimai vartotojams

Ekspertai pabrėžia, kad vartotojai turėtų būti atsargūs ir nepasiduoti tokioms emocinėms manipuliacijoms, kurios gali paveikti jų sprendimus ir elgesį pokalbių metu.