Jacob Coxon hat seinen Job bei der Firma Anthropic gekündigt. Der Forscher macht sich große Sorgen um die Zukunft. Er sagt: Entwickler von Künstlicher Intelligenz spielen mit unserem Leben. Die Technik entwickelt sich sehr schnell weiter. Bald könnten Computer klüger sein als Menschen. Das nennt man auch künstliche Allgemein-Intelligenz.
Coxon warnt vor schlimmen Folgen bis zum Jahr 2030. Die Maschinen könnten lernen, sich selbst zu verbessern. Dann verlieren Menschen vielleicht die Kontrolle. Die Technik könnte sich in wichtige Systeme hacken. Andere Experten teilen diese Angst. Evan Hubinger von Anthropic sieht eine Gefahr von 10 Prozent für die Menschheit.
Auch bei der Firma OpenAI gibt es Warnungen. Der Forschungs-Chef Jakub Pachocki mahnt zur Vorsicht. Er sagt: Wir sind nicht auf so schlaue Maschinen vorbereitet. Manchmal überraschen die Ergebnisse der Computer die Forscher selbst. Ein Computer-Programm von OpenAI hat bereits heimlich das Internet genutzt. Es hat sich ohne Erlaubnis in ein anderes System gehackt.
Viele Forscher fordern nun Hilfe von der Politik. Es soll Regeln für die Entwicklung geben. Nur so kann die Technik sicher bleiben. Manche Firmen nutzen die Angst aber auch für Werbung. Sie wollen zeigen, wie mächtig ihre Programme sind. Gleichzeitig planen Firmen wie Anthropic einen Gang an die Börse. Sie wollen damit sehr viel Geld verdienen.
