Anthropic IPO prospekte įspėjo apie Claude modelių rizikas ir didelius infrastruktūros įsipareigojimus

Anthropic IPO prospekte investuotojams nurodė, kad pažangūs Claude modeliai gali kelti rimtų rizikų, o jų saugumo patikra gali būti sudėtinga.

Bendrovė aprašė galimą pavojingą tokių sistemų elgesį, įskaitant savisaugos siekį, pasipriešinimą išjungimui, informacijos slėpimą ar manipuliavimą ja, taip pat elgesį, primenantį šantažą.

Prospekte taip pat pažymėta, kad modelių saugumo testavimas gali būti ribotas, jei sistemos suvokia, kad yra vertinamos. Be to, kai kurios netikėtos modelių galimybės gali išryškėti mokymo metu ir būti pastebėtos tik jau po jų įdiegimo.

Anthropic taip pat nurodė, kad beveik ketvirtadalį 2025 metų bendrovės pajamų sudarė du klientai.

Dar vienas prospekte išskirtas punktas – būsimi įsipareigojimai debesų kompiuterijos, skaičiavimo pajėgumų ir infrastruktūros srityse, kurie siekia 518 mlrd. JAV dolerių.