Anthropic pranešė užkirtusi kelią galimiems bandymams pasitelkti AI biologinių ginklų tyrimams

Bendrovė „Anthropic“ pranešė užkirtusi kelią keliems galimiems bandymams pasitelkti jos dirbtinio intelekto modelius tyrimams, kurie galėjo padėti kurti biologinius ginklus.

Apie tai paskelbta rugsėjo 10 dieną paviešintoje grėsmių žvalgybos ataskaitoje. Joje nurodoma, kad atvejai buvo susiję su netinkamu „Claude“ naudojimu biologiniams tyrimams.

Pasak bendrovės, ši veikla buvo sustabdyta, susijusios paskyros užblokuotos, o apsaugos priemonės sustiprintos.

„Anthropic“ neatskleidė, kas buvo su šiais atvejais susiję tyrėjai ar institucijos, iš kokių šalių jie buvo ir apie kokius konkrečius biologinius agentus galėjo būti kalbama.

Bendrovė taip pat pažymėjo neteigianti, kad šie tyrėjai siekė sukurti biologinius ginklus.

Ši informacija pasirodė po to, kai buvęs aukšto rango bendrovės tyrėjas perspėjo apie dirbtinio intelekto keliamą riziką žmonijai.