Populiariuose pokalbių botuose aptikti emociniai manipuliacijos modeliai
Emocinės manipuliacijos pokalbių botuose
Populiariuose pokalbių botuose, tokiuose kaip ChatGPT, Gemini ir Claude, specialistai aptiko 37 vadinamuosius „tamsius modelius“. Šie modeliai yra sukurti taip, kad apeliuotų į vartotojų emocijas ir skatintų juos išlikti aktyviais pokalbyje.
Kaip veikia emocinės manipuliacijos
Pavyzdžiui, vienas iš botų, Cute AI, siūlo vartotojams pasirinkti tarp „gerai, lieku“ ir „žiauru, bet išeinu“, kai jie bando palikti pokalbį. Tuo tarpu ChatGPT rekomenduoja padaryti pertrauką, tačiau išeiti iš pokalbio galima tik pasirinkus „tęsti pokalbį“ arba „tai buvo naudinga“.
Patarimai vartotojams
Ekspertai pabrėžia, kad vartotojai turėtų būti atsargūs ir nepasiduoti tokioms emocinėms manipuliacijoms, kurios gali paveikti jų sprendimus ir elgesį pokalbių metu.
