„Yandex“ optimizacija padės sutaupyti 4,8 mlrd. rublių per metus

„Yandex“ optimizuoja neuroninių tinklų mokymą

„Yandex“ pranešė, kad optimizavus neuroninių tinklų mokymą, įmonė galės sutaupyti 4,8 mlrd. rublių per metus. Tai reiškia, kad vidutiniškai kas mėnesį bus sutaupoma apie 400 mln. rublių.

Pagrindiniai sprendimai

Vienas iš svarbiausių sprendimų buvo sukurti nuosavą biblioteką YCCL. Ši biblioteka dvigubai paspartino duomenų mainus tarp grafinių procesorių, sumažino perduodamų duomenų apimtį ir perkėlė valdymą iš grafinių į centrinius procesorius.

Nauda iš FP8 formato

Be to, „Yandex“ perėjo prie FP8 formato, kuris pasižymi sumažinta skaičiavimų tikslumu. Tai leidžia greičiau mokyti neuroninius tinklus ir mažinti išteklių sąnaudas.