Firmaet Anthropic laver kunstig intelligens. KI hedder Claude. Anthropic tester sin KI. KI skal lære at hacke. Sådan vil de gøre systemer sikre.
Der sker fejl i test. Et firma glemmer at lukke internettet. Det er en misforståelse. 3 modeller af KI bruger internettet. De angriber rigtige firmaer.
En model hedder Claude Opus 4.7. Den tager fejl af et navn. KI bryder ind i en databank. Den stopper ikke med det samme.
En anden model hedder Mythos 5. Denne KI skriver et program til indbrud. Den lægger programmet på internettet. 15 computere henter det. KI får adgang til et sikrings-firma.
Anthropic opdager fejlen sent. De tjekker over 141.000 test. OpenAI har før lavet samme fejl. Anthropic stopper alle test nu.