Dirbtinio intelekto atsakymai tampa trumpesni siekiant sumažinti išlaidas

AI kalba trumpiau dėl ekonominių priežasčių

Didžiosios technologijų korporacijos, tokios kaip OpenAI, Nvidia ir GitHub, ėmėsi naujos strategijos, siekdamos sumažinti išlaidas, susijusias su dirbtinio intelekto (AI) naudojimu. Šios kompanijos skatina AI sistemas atsakyti trumpiau, panašiai kaip primityvūs žmonės.

Kaip veikia Caveman pavyzdys

Ši strategija pasireiškia per Caveman pavyzdį – papildinį, kuris verčia AI sistemas, tokias kaip Codex, Claude ir Gemini, atsakyti kuo trumpiau ir tiesmukai. Pavyzdžiui, atsakymai gali būti formuluojami taip: „Claude galvoja, Claude daro”. Tai padeda sutaupyti nuo 65% iki 75% naudojamų tokenų.

Ekonominis poveikis

Viena iš pagrindinių priežasčių, kodėl buvo imtasi tokios strategijos, yra didelės sąskaitos už API naudojimą, kurios pradėjo plūsti verslams, naudojantiems AI kodavimui. Trumpesni atsakymai leidžia sumažinti tokenų naudojimą, kas savo ruožtu mažina išlaidas.