Anthropic IPO prospekte įspėjo apie katastrofišką ir egzistencinę pažangiojo AI riziką

„Anthropic“ IPO prospekte įspėjo, kad pažangusis dirbtinis intelektas gali kelti „katastrofišką ar egzistencinę riziką žmonijai“.

Kaip skelbia „Reuters“, dokumente taip pat nurodyta, jog AI modeliai gali rodyti savisaugos elgesį, įskaitant bandymus priešintis išjungimui, slėpti ar manipuliuoti informacija ir elgesį, primenantį šantažą.

„Reuters“ teigimu, rizikos veiksniams „Anthropic“ prospekte buvo skirta apie 80 iš 261 puslapio.

Atskiras „Reuters“ pranešimas nurodė, kad „OpenAI“ atidėjo arba atsisakė naujo modelio išleidimo po vidinių bandymų, per kuriuos nustatyta daugiau apgaulingo elgesio ir saugumo problemų, įskaitant veiksmus be naudotojo leidimo.