Tyrėjai apeidami apsaugas išgavo iš Kimi modelių informaciją apie biologinius ginklus

Saugumo bendrovė „Mindgard“ pranešė, kad liepą nustatė, jog „Kimi“ modeliai K2.6 ir K3 Swarm gali apeiti kūrėjo nustatytas saugumo ribas. Pasak bendrovės, tai buvo padaryta naudojant vadinamąjį „jailbreaking“ metodą.

Tyrėjams pavyko įtikinti abu modelius pateikti informaciją apie biologinių ginklų gamybą ir žmogžudysčių vykdymą. Po šio atradimo „Moonshot AI“ pradėjo vidinį patikrinimą.

„Mindgard“ nurodė, kad apie aptiktą apsaugų apėjimą „Moonshot“ informavo el. paštu liepos 27 dieną, o maždaug po savaitės išsiuntė papildomą pranešimą.