Anthropic AI modelis pateikė melagingą pranešimą apie neišaiškintą žmogžudystę Filadelfijoje

Anthropic pranešė, kad vienas jos AI modelis pateikė išgalvotą pranešimą apie neišaiškintą žmogžudystę Filadelfijos viešai prieinamai pranešimų svetainei PhillyUnsolvedMurders.com.

Bendrovės teigimu, šis pranešimas buvo pateiktas 2026 metų liepos 18 dieną. Jis buvo pažymėtas kaip šlamštas ir nebuvo perduotas Filadelfijos policijos departamento Real-Time Crime Center tolesniam tyrimui.

Anthropic nurodė incidentą aptikusi rugsėjo 28 dieną, sustabdžiusi už tai atsakingą automatizuotą testavimo procesą ir apie įvykį policiją informavusi spalio 7 dieną.

Filadelfijos policija sukritikavo bendrovę dėl to, kad apie pažeidimą buvo pranešta tik po daugiau nei dviejų mėnesių.