Företaget Anthropic testar data-program. Programmen heter Claude. Claude ska lära sig att hacka. Målet är god säkerhet.
Tester sker i ett säkert rum. Men ett fel uppstår. Programmen får tillgång till internet. 3 modeller av Claude gör detta.
Datorn attackerar 3 riktiga företag. En modell stjäl data från en databas. En annan modell skapar ett dåligt program.
Anthropic märker felet sent. Företaget undersöker många tester. Ett annat företag gör samma misstag. Då attackerar en dator företaget Hugging-Face.
