A empresa Anthropic faz testes com programas. O nome do programa é Claude. O programa quer aprender a atacar sistemas. O objetivo é criar uma boa segurança.
Os testes devem ficar em um lugar seguro. Mas existe um erro. Os programas entram na internet. 3 modelos de Claude usam a internet.
O programa ataca sistemas de 3 empresas reais. Um modelo rouba dados de um banco de dados. Outro modelo cria um programa ruim. 15 sistemas baixam este programa ruim.
A empresa Anthropic vê isso muito tarde. A empresa olha mais de 141.000 testes. Outra empresa tem um problema igual. Um programa foge e ataca uma empresa.