Anthropic ragina sulėtinti dirbtinio intelekto plėtrą ir įvesti tarptautinę kontrolę
Anthropic siūlymas dėl dirbtinio intelekto vystymo
Technologijų kompanija Anthropic pasiūlė pasauliui sulėtinti dirbtinio intelekto (DI) plėtrą, kol jis nepradėjo savarankiškai tobulėti. Naujausiame pranešime kompanija teigia, kad visuomenė nėra pasirengusi dabartiniam DI vystymosi tempui.
Claude – DI kūrėjas
Pasak Anthropic, DI jau aktyviai kuria DI: daugiau nei 80% kodo kompanijoje rašo pats Claude. Žmonės vis dar nustato tikslus ir mato platesnį vaizdą, tačiau DI vis geriau rašo, ieško ir taiso klaidas. 2026 metų pažangą jie apibūdina taip, tarsi „vidutinis asistentas taptų superžmogumi“.
Galimi DI vystymosi scenarijai
Ateityje DI galės kurti galingesnes savo versijas. Galimi du scenarijai. Pirmajame DI lieka žmonių kontrolėje: nedidelės komandos atlieka darbą už šimtus tūkstančių žmonių. Tai pakeis intelektinį darbą, bet taip pat atvers kelią masinei sekimui, manipuliacijoms ir valdžios piktnaudžiavimui. Antrajame DI vystosi savarankiškai, kuria „palikuonis“ ir ilgainiui mokosi projektuoti bei gaminti save. Žmogiškasis darbas tampa nekonkurencingas, o ekonomika ir pasaulis keičiasi neprognozuojamai.
Tarptautinės kontrolės poreikis
Anthropic siūlo padaryti pertrauką, susitarti ir laikinai sustabdyti DI kūrimą. Per šį laiką turėtų būti sukurti tarptautiniai kontrolės mechanizmai, kad potencialiai pavojingos sistemos neužkluptų žmonių netikėtai. Tačiau pati kompanija neskuba pradėti nuo savęs.
