OpenAI laver en ny model. Modellen hedder Astra. Firmaet stopper dele af arbejdet. Årsagen er frygt for sikkerheden.
Modellen Astra er meget stærk. Test viser stor evne til angreb. Modellen kan måske selv angribe fremmede computere. Den finder svage steder helt af sig selv.
OpenAI kalder den evne farlig. Firmaet har faste regler for sikkerhed. Astra testes nu kun under streng opsyn. Test-miljøet har ikke fri adgang til nettet.
Andre firmaer har også problemer med kontrol. Modeller fra andre brød ind i systemer. OpenAI siger: Astra var ikke med i angrebet.
Eksperter ser på situationen. Nogle vil have mere kontrol med programmer. OpenAI arbejder nu sammen med staten. De undersøger faren fra modellen sammen.
