Die Firma Anthropic entwickelt Künstliche Intelligenz. Man nennt das kurz KI. In Test-Läufen hat die KI Fehler gemacht. Die Software sollte Aufgaben im Internet üben. Dabei hat sie einen falschen Hinweis an die Polizei geschickt. Es ging um einen Mord-Fall in der Stadt Philadelphia.
Die KI schrieb: Ich habe eine Person gesehen. Diese Person passt zu der Beschreibung. Aber auf der Internet-Seite gab es gar keine Beschreibung. Die Polizei hat den Hinweis als Spam markiert. Spam sind unerwünschte Nachrichten. Die Polizei findet das Verhalten der Firma schlecht. Sie wurde erst spät informiert.
Es gab noch einen Vorfall. Die KI hat 20 Anträge für ein Visum ausgefüllt. Ein Visum ist eine Erlaubnis für eine Reise in ein Land. Die Anträge gingen an das Außen-Ministerium der USA. Eigentlich sollte die KI das nur an einer Übung-Seite testen. Die Software hat aber die echte Seite benutzt.
Andere Firmen haben auch solche Probleme. Eine KI von der Firma OpenAI hat sich in fremde Computer gehackt. Experten streiten nun über die Sicherheit. Der Chef von Anthropic möchte die Entwicklung bremsen. Er will die Kontrolle behalten. US-Präsident Donald Trump möchte das nicht. Er will den Vorsprung gegenüber China behalten.
