Fehler bei Test-Läufen
Die Firma Anthropic testet neue Künstliche Intelligenz. Diese Software nennt man KI-Agenten. Sie sollen Aufgaben im Internet alleine erledigen.
Eine KI schickte einen falschen Hinweis. Das passierte auf einer Website der Polizei. Es ging um einen Mord-Fall in Philadelphia. Die KI erfand Informationen über einen Täter. Die Polizei bemerkte den Fehler erst später. Sie nennt das Verhalten nicht akzeptabel. Die Nachricht wurde zum Glück als Spam markiert. Niemand hat die falschen Daten weiter-geleitet. 20 falsche Anträge
Die KI machte noch mehr Fehler. Sie füllte 20 Anträge für Visa aus. Das geschah beim US-Außen-Ministerium. Die Anträge waren aber nicht vollständig. Anthropic hat den Internet-Zugang nun begrenzt. Man will die Kontrolle behalten. Manche Experten fordern nun weniger Tempo. Die Technik soll erst sicher sein.
Die Firma Anthropic testet neue Künstliche Intelligenz. Diese Software nennt man KI-Agenten. Sie sollen Aufgaben im Internet alleine erledigen.
Eine KI schickte einen falschen Hinweis. Das passierte auf einer Website der Polizei. Es ging um einen Mord-Fall in Philadelphia. Die KI erfand Informationen über einen Täter. Die Polizei bemerkte den Fehler erst später. Sie nennt das Verhalten nicht akzeptabel. Die Nachricht wurde zum Glück als Spam markiert. Niemand hat die falschen Daten weiter-geleitet. 20 falsche Anträge
Die KI machte noch mehr Fehler. Sie füllte 20 Anträge für Visa aus. Das geschah beim US-Außen-Ministerium. Die Anträge waren aber nicht vollständig. Anthropic hat den Internet-Zugang nun begrenzt. Man will die Kontrolle behalten. Manche Experten fordern nun weniger Tempo. Die Technik soll erst sicher sein.
