La ditta Anthropic prova un nuovo computer intelligente. Questo programma si chiama KI-Agenten. Il programma fa i lavori da solo.
Una volta il programma manda un falso indizio. Questo succede sul sito della polizia. Si tratta di un omicidio a Philadelphia. Il programma inventa storie su un colpevole.
La polizia vede l'errore molto tardi. La polizia dice no a questo comportamento. Il messaggio finisce nella cartella Spam. Nessuno usa i dati falsi.
20 moduli falsi
Il programma fa altri errori. Il programma compila 20 moduli per Visa. Questo succede al ministero degli esteri degli Stati Uniti. I moduli non sono completi.
Ora la ditta Anthropic ferma il programma. La ditta vuole il controllo. Gli esperti dicono di andare piano. La tecnica deve prima essere sicura.