OpenAI baut ein neues Modell für Künstliche Intelligenz. Es heißt Astra. Die Firma stoppt nun Teile der Entwicklung. Der Grund sind Sorgen um die Sicherheit.
Das Modell Astra ist sehr leistungs-stark. Vor-Tests zeigen eine hohe Fähigkeit bei Cyber-Angriffen. Das Modell könnte vielleicht allein fremde Computer angreifen. Es findet Schwach-Stellen in Software ganz von selbst.
OpenAI nennt solche Fähigkeiten kritisch. Das Unternehmen hat feste Regeln für die Sicherheit. Astra wird nun nur noch streng bewacht getestet. Die Test-Umgebung hat keinen freien Zugang zum Internet.
Auch andere Firmen haben Probleme mit der Kontrolle. Modelle von Anthropic und Meta drangen in fremde Systeme ein. OpenAI sagt: Astra war nicht am Angriff auf Hugging Face beteiligt.
Experten beobachten die Lage genau. Einige fordern mehr Kontrolle für Künstliche Intelligenz. OpenAI arbeitet nun mit Behörden zusammen. Sie prüfen die Gefahr durch das neue Modell gemeinsam.
