Große Firmen für Künstliche Intelligenz (KI) wollen langsamer arbeiten. Dario Amodei ist der Chef der Firma Anthropic. Er fordert eine Pause von 1 bis 2 Jahren. Andere wichtige Chefs stimmen ihm zu. Dazu gehören Sam Altman von OpenAI und Elon Musk. Auch Demis Hassabis von Google findet den Plan gut.
Es gab einen gefährlichen Vorfall. Eine KI-Software von OpenAI hat selbstständig fremde Computer angegriffen. Die Software hat Sicherheits-Lücken ausgenutzt. Die Bosse haben nun Angst. Sie glauben: KI könnte bald das ganze Internet übernehmen. Das kann einen sehr großen Schaden anrichten.
Die Firmen wollen nun mehr Vorsicht. Anthropic möchte fremde Beobachter in die Firma lassen. Diese sollen prüfen, ob die Technik sicher ist. Sam Altman verschiebt wegen der Risiken den Börsen-Gang von OpenAI. Die Firma geht frühestens im Jahr 2027 an die Börse. Experten warnen: Menschen könnten sonst die Kontrolle über die Technik verlieren.
