Die Firma Anthropic hat einen neuen Bericht veröffentlicht. In dem Bericht geht es um Sicherheit. Forscher haben die KI Claude für gefährliche Dinge genutzt. Sie wollten damit biologische Waffen bauen. Anthropic hat die Konten dieser Forscher sofort gesperrt.
Einige Forscher arbeiteten an Viren. Sie wollten das Chikungunya-Virus gefährlicher machen. Auch an der Vogel-Grippe wurde geforscht. Die KI sollte helfen, die Viren besser zu verbreiten. Anthropic erkannte die Gefahr und stoppte die Anfragen.
Auch beim Bau von Raketen wurde die KI genutzt. Gruppen aus Russland und China nutzten Claude dafür. Die Huthis planten damit sogar Lang-Strecken-Raketen. Anthropic verbessert nun seine Sicherheits-Systeme gegen diesen Missbrauch.
