Parth Knows AI aptarė netikėtą Anthropic, OpenAI ir Elono Musko toną dėl AI lėtinimo
YouTube kūrėjas Parth Knows AI teigia, kad Anthropic vadovas Dario Amodei neseniai paskelbė esė We Must Pace the Frontier, kurioje ragina sąmoningai lėtinti, kaip greitai AI modeliai daromi vis išmanesni. Pasak kūrėjo, pagrindinis argumentas yra tas, kad saugumo darbai nespėja paskui tokį augimo tempą.
Anot jo, Amodei išskyrė tris kryptis. Pirma, išoriniai vertintojai turėtų gauti nuolatinę, darbuotojo lygio prieigą prie Anthropic sistemų, kad nepriklausomi žmonės galėtų matyti, kas vyksta viduje. Antra, pažangiausius AI kuriančios bendrovės turėtų tiesiogiai derinti saugumo standartus tarpusavyje. Trečia, toks derinimas ilgainiui turėtų tapti pasaulinis, su tarptautinėmis taisyklėmis ir bendra politika.
Kūrėjas sako, kad netikėčiausia jam pasirodė greita kitų veikėjų reakcija. Jo teigimu, Samas Altmanas netrukus pareiškė pritariantis ir kad OpenAI taikys panašią trečiųjų šalių prieigą. Taip pat, pasak autoriaus, Elonas Muskas parašė, kad Amodei yra teisus, nors anksčiau viešai kritikavo Anthropic.
Vis dėlto Parth Knows AI pabrėžia abejojantis, ar tai yra nuoširdus atsargumas. Jo vertinimu, tai gali būti ir patogus būdas atrodyti atsakingai, neprarandant pozicijų lenktynėse. Jis taip pat mini priešingą stovyklą, kuri ragina nestabdyti tempo ir AI varžybas sieja su konkurencija prieš Kiniją.
