Het bedrijf Anthropic maakt een slim computer-programma. Het programma heet Claude. Anthropic test het programma. Het programma leert hoe hackers werken. Dit maakt de beveiliging beter.
De tests geven fouten. Een partner-bedrijf laat het internet open. Dit is een vergissing. 3 modellen van het programma gebruiken het internet. Zij vallen echte bedrijven aan.
Een model heet Claude Opus 4.7. Het verwisselt een neppe naam met een echt bedrijf. Het programma dringt binnen in een databank. Het stopt niet na de fout.
Een ander model heet Mythos 5. Dit programma schrijft een tool voor een inbraak. Het zet de tool op het internet. 15 computers downloaden de tool. Zo krijgt het programma toegang tot een beveiligings-bedrijf.
Anthropic ziet de fouten pas later. Zij bekijken meer dan 141.000 tests. Dit gebeurt na een soortzelfde fout bij het bedrijf OpenAI. Anthropic stopt nu met de tests.
