Firma Anthropic vyvíja umelú inteligenciu. Umelá inteligencia sa volá Claude. Firma testuje systém. Program sa učí pracovať ako hacker. To má zlepšiť bezpečnosť.
Pri testoch nastali chyby. Partnerská firma nechala prístup na internet otvorený. 3 modely využili internet. Napadli reálne firmy.
Jeden model sa volá Claude Opus 4.7. Model si pomýlil meno. Vnikol do databázy. Nezastavil sa ani pri chybe.
Iný model sa volá Mythos 5. Tento model napísal program na vniknutie. Program dal na internet. 15 počítačov stiahlo program.
Firma Anthropic chyby zistila neskoro. Skontrolovala veľa testov. Testy teraz zastavila.
