Parth Knows AI teigia, kad Google ir Peking University parodė būdą, kaip pigesnį AI modelį apmokyti su stipresnio modelio pagalba
YouTube kūrėjas Parth Knows AI teigia, kad vienas svarbiausių savaitės darbų buvo Google ir Peking University tyrėjų žingsnis link tokio AI, kuris galėtų vis geriau mokytis pats. Pasak jo, tyrėjai leido stipresniam AI modeliui treniruoti pigesnį modelį, o vėliau tą stipresnį modelį pašalino.
Kūrėjo pasakojimu, problema buvo ta, kad AI agentą galima smarkiai pagerinti pridėjus papildomų įrankių, taisyklių ir patikrų, tačiau toks pagerėjimas išlieka tik tol, kol ši speciali sistema yra prijungta. Jis aiškina, kad šiame darbe pigesniam modeliui buvo duodamos užduotys, tarp jų – skaičiuoklių, įrankių naudojimo ir chemijos uždaviniai. Tuo metu stipresnis AI, anot kūrėjo, stebėjo kiekvieną žingsnį dar prieš jam įvykstant ir, kai pigesnis modelis ruošdavosi suklysti, pakeisdavo jo veiksmą geresniu.
Pasak Parth Knows AI, šios pataisos tapo mokymo duomenimis, pagal kuriuos pigesnis modelis buvo apmokytas iš naujo. Po to stipresnis modelis buvo pašalintas. Kūrėjas teigia, kad po vieno tokio mokymo rato pigesnio modelio rezultatas pakilo nuo 23 proc. iki 44 proc., ir jis pranoko savo ankstesnę pilnai papildytą versiją.
Parth Knows AI tai vadina svarbiausia šio darbo mintimi: jei tokį procesą būtų galima kartoti, pigesnis modelis galėtų vis kilti į aukštesnį lygį, nebereikalaudamas žmogaus ar didesnės papildomos sistemos. Tai yra kūrėjo interpretacija ir prognozė apie galimą metodo reikšmę.
