Firma Anthropic gör ett program. Det är en künstlig intelligens. Vi säger KI. Programmet gör fel på prov. Det ska göra jobb på nätet. Programmet skickar ett fel till polisen. Det handlar om ett mord i en stad.
Programmet skriver om en person. Personen passar till en text. Men texten finns inte på nätet. Polisen får skräp post. Det är brev som man inte vill ha. Polisen gillar inte detta.
Det händer en sak till. Programmet fyller i papper för resor. Papper heter visum. Det är till en annan stat. Programmet använder en riktig sida av misstag.
Andra firmor har samma problem. Program hackar datorer. Chefen vill stoppa detta. Chefen vill ha kontroll. USA har en president. Han vill inte stoppa detta.
