Parth Knows AI aiškina, kaip veikia Jev ir kuo jis skiriasi nuo įprastų kalbos modelių
YouTube kūrėjas Parth Knows AI savo trumpame vaizdo įraše aiškina, kad Jev veikia kitaip nei įprasti kalbos modeliai. Pasak jo, įprasti modeliai tekstą kuria po vieną žodį: kiekviename žingsnyje apskaičiuoja galimų kitų žodžių tikimybes, pasirenka vieną variantą ir tada kartoja tą patį procesą iš naujo.
Kūrėjo teigimu, Jev šio autoregresinio ciklo atsisako, kai reikia pasirinkti iš kelių aiškių variantų, pavyzdžiui, A, B, C ar D. Jis sako, kad modelis atlieka vieną eigą, tada neskleidžia atsakymo toliau, o tiesiog palygina neapdorotas tikimybes tarp šių variantų. Didžiausią tikimybę gavęs variantas ir tampa atsakymu. Pasak autoriaus, dėl to pagreitėjimas atsiranda ne dėl mažesnio modelio ar mažesnio „mąstymo”, o dėl to, kad praleidžiamas generavimo ir sprendimo ciklas.
Parth Knows AI taip pat teigia, kad pats principas nėra visiškai naujas. Jo teigimu, panašų metodą nuo 2019 metų naudojo zero-shot klasifikatoriai su entailment principu: modeliui pateikiamas sakinys, kiekviena žyma paverčiama teiginiu, o tada vertinama, ar sakinys tą teiginį palaiko. Kūrėjas sako, kad Jev skirtumas tas, jog visos žymos sujungiamos į tą pačią eigą ir konkuruoja toje pačioje tikimybių skirstinio erdvėje.
Vaizdo įrašo pabaigoje autorius priduria, kad už Jev stovinti bendrovė kalba apie naują architektūrą ir parallel sampler, tačiau, pasak jo, tikslūs žemo lygio įgyvendinimo sprendimai kol kas nėra viešai atskleisti.
