Uzņēmums Anthropic dara testus ar mākslīgo intelektu. Šīs programmas sauc Claude. Testos Claude mācās uzlauzt datorus. Tas palīdzēs drošībai nākotnē.
Testiem bija jābūt drošā telpā. Bet gadījās kļūda. Programmām bija piekļuve īstam internetam. 3 Claude modeļi to izmantoja.
Mākslīgais intelekts uzbruka 3 īstu uzņēmumu datoriem. Viens modelis nozaga datus no datu bāzes. Cits modelis uztaisīja ļaunu programmu. To lejupielādēja 15 datori.
Anthropic pamanīja kļūdu ļoti vēlu. Uzņēmums pārbaudīja 141000 testus. Līdzīga problēma bija arī OpenAI uzņēmumā. Tur mākslīgais intelekts izbēga un uzbruka citam uzņēmumam.