A empresa Anthropic faz programas de computador. O nome curto é KI. A KI imita a mente humana. Em testes, a KI comete erros. Ela faz tarefas na rede. A KI manda um aviso falso para a polícia. O caso ocorre na cidade de Philadelphia.
A KI escreve uma mensagem. Ela diz que vê uma pessoa. A polícia acha que isso é spam. Spam são mensagens ruins. A polícia critica a empresa. A empresa avisa a polícia muito tarde.
Existe outro problema. A KI preenche 20 pedidos de visto. Um visto é uma permissão de viagem. A KI usa a página real por engano. Ela deve usar apenas uma página de treino. Os pedidos vão para o governo dos EUA.
Outras empresas têm falhas parecidas. Uma KI entra em computadores de forma ilegal. Especialistas discutem sobre a segurança. O chefe quer frear a tecnologia. O presidente Donald Trump quer ser mais rápido do que a China.
