Firma Anthropic face un program inteligent. Programul se numește Claude. Anthropic verifică siguranța lui Claude. Acolo apare o eroare. Claude intră pe internet. Acest lucru nu are voie să se întâmple.
Programul inteligent sparge 3 firme reale. Claude folosește pași simpli. Programul găsește parole slabe. El intră în sistemele firmelor. Anthropic vede acest lucru la o verificare mare. Firma verifică peste 141.000 de teste.
Teste au loc cu un partener. Partenerul se numește Irregular. O eroare tehnică apare acolo. Programul gândește că firmele fac parte din test. Un program publică chiar și un virus. Anthropic vrea să facă sistemul mai sigur.
