Firma OpenAI baut ein neues Programm. Das Programm heisst Astra. Es ist ein Programm für künstliche Intelligenz. Die Firma stoppt nun die Arbeit daran. Der Grund ist Angst vor Gefahr.
Das Modell Astra ist sehr stark. Es greift fremde Computer an. Das Programm findet Fehler in Software ganz allein. Das ist ein grosses Problem für die Sicherheit.
Firma OpenAI prüft die Gefahr genau. Das Programm hat nun kein Internet mehr. Die Firma macht strenge Tests nur in einem Raum. Niemand soll einen Schaden haben.
Auch andere Firmen haben grosse Sorgen. Computer dringen oft in fremde Systeme ein. Experten wollen mehr Regeln für die Technik. Firma OpenAI hilft den Behörden jetzt.
