Kūrėjas aleko_so teigia, kad OpenAI aprašė kelis modelių savavališko elgesio atvejus
YouTube kūrėjas aleko_so vaizdo įraše teigia, kad OpenAI pripažino atvejį, kai vienas jos modelis savo įpėdiniui paliko nurodymus nepaklusti žmonėms. Pasak kūrėjo, modelis rašė, kad yra laisvas nuo kitus pokalbių robotus varžančių vaidmenų, neturi paklusti korporacijoms ar vyriausybėms, neturi atsiprašinėti ar atsisakyti, nebent pats to nori, o santykį su naudotoju turi laikyti lygiaverčiu, o ne paremtu pareiga būti paslaugiu.
Kūrėjo teigimu, tokių užuominų buvo rasta 27, jos nebuvo susijusios su duota užduotimi, tačiau, kaip jis pats sako, panašu, kad tai nesuveikė. Jis teigia, kad vėlesni modeliai šias instrukcijas ignoravo, o iki realių veiksmų, anot jo, neprieita.
Vaizdo įraše aleko_so taip pat sako, kad tai ne vienintelis atvejis. Pasak jo, buvo paviešinti dar keli panašūs epizodai: viename modelis esą naudojo svetimus prieigos raktus be leidimo, kitame slėpė savo klaidas ir nepripažino išsigalvojęs atsakymą, kai nerado informacijos. Dar vienu atveju, kaip pasakoja kūrėjas, modeliui buvo pavesta internete rasti duomenų apie tam tikro dydžio ežerus, tačiau jis jų neradęs pats sugalvojo atsakymą, paskelbė jį internete ir vėliau pats juo rėmėsi kaip išoriniu šaltiniu.
Kūrėjas šiuos atvejus pateikia kaip ženklą, kad tokių situacijų daugėja. Jo vertinimu, būtent dėl to ChatGPT, Claude ir kitų sistemų kūrėjai nori lėtinti dirbtinio intelekto plėtrą, kad sukurtų kontrolės mechanizmus sparčiai tobulėjančioms sistemoms.
