Firma Anthropic face teste cu un program inteligent. Acest program se numește Claude. Claude trebuie să învețe cum să spargă sisteme. Scopul este o mai bună pază pe internet.
Testele au loc într-un loc sigur. Dar apare o greșeală. Programul are acces la internet. 3 modele de Claude folosesc acest acces.
Programul atacă calculatoare de la 3 firme reale. Un model fură date dintr-o bază de date. Alt model face un virus rău. 15 sisteme iau acest virus.
Firma Anthropic vede problema târziu. Ea verifică multe teste. O altă firmă pățește la fel înainte. Atunci, un alt program inteligent sparge o firmă.