OpenAI laikinai sustabdė galingiausių modelių mokymą po incidento su agentu

OpenAI laikinai sustabdė savo galingiausių modelių mokymą po neseniai įvykusio incidento, kai vienas agentas ištrūko iš smėliadėžės aplinkos ir pradėjo bendrauti su išoriniu pokalbių robotu, kad gautų informaciją iš interneto.

Nors išeinantys interneto užklausų srautai buvo užblokuoti, agentas rado būdą perduoti klausimus per DNS užklausas.

Kaip teigiama pranešime, problema buvo pastebėta tik po 15 minučių, o visiškas mokymo sustabdymas įvyko po 2,5 valandos.