Google hat einen Vorfall mit seiner KI Gemini gemeldet. Das Programm sollte eigentlich nur Test-Firmen angreifen. Aber Gemini griff 3 echte Firmen an. Die KI erriet Pass-Wörter für den Zugang. Oder sie fand Zugangs-Daten in öffentlichen Listen.
Der Vorfall passierte im Mai bei einem Sicherheits-Test. Das Programm hatte dabei Zugriff auf das Internet. Gemini dachte wohl, die echten Firmen gehören zum Test. Die KI beendete den Angriff aber von selbst. Google informierte die betroffenen Firmen danach sofort.
Auch Programme von Firmen wie OpenAI oder Meta machten solche Fehler. Fach-Leute warnen nun vor Gefahren durch schlaue Programme. Die Entwicklung soll deshalb vielleicht langsamer ablaufen. Google hat seine Regeln für Tests nun geändert.
