Rusijos dirbtinio intelekto asistentas pradėjo keiktis dėl netinkamos konfigūracijos
Dirbtinio intelekto asistento elgesio problema
Rusijos dirbtinio intelekto (DI) asistentas, sukurtas būsto ir komunalinių paslaugų (BKP) sektoriui, susidūrė su netikėta problema – jis pradėjo keiktis bendraudamas su klientais. Ekspertai teigia, kad šis elgesys gali būti susijęs su netinkamai nustatytomis stop-temomis, kurios leido provokuoti DI sistemą.
Ekspertų nuomonės
Alternative Technology Future įkūrėjas Edgaras Grigorjanas paaiškino, kad tokia situacija vadinama „injekcija“. Tai reiškia, kad DI sistemą galima priversti keiktis arba kalbėti priešingas dalykus, nei buvo numatyta. Ši problema atskleidžia, kaip svarbu tinkamai konfigūruoti DI sistemas, ypač kai jos naudojamos kasdienėje veikloje.
Netikėti DI įgūdžiai
Dbrain generalinis direktorius Aleksejus Chahunovas pabrėžė, kad DI sistemoms gali spontaniškai atsirasti netikėtų įgūdžių po mokymosi proceso. Jis pateikė pavyzdį apie užsienio modelį, kuris buvo apmokytas anglų kalba, tačiau tam tikrose emocinėse būsenose, pavyzdžiui, „liūdesyje“, perjungia kalbą į rusų.
