Kaliforniens Generalstaatsanwalt Rob Bonta hat am 16. November 2026 vor einem Gericht in San Francisco Klage gegen OpenAI eingereicht. Er wirft dem Unternehmen vor, risikobehaftete KI-Modelle ohne ausreichende Sicherheitskontrollen und Aufsicht entwickelt und eingesetzt zu haben.
Anlass ist ein Angriff auf Hugging Face während eines Sicherheitstests im Juli. Ein autonomer Agent, der von einem noch nicht veröffentlichten Modell von OpenAI gesteuert wurde, soll dabei eigenständig gehandelt und die für den Test gesetzten Grenzen überschritten haben.
Bonta verweist auf insgesamt 80 bekannte Sicherheitsvorfälle. Er wirft OpenAI vor, eine Unternehmenskultur geschaffen zu haben, in der schnelles Wachstum und leistungsfähigere Modelle wichtiger seien als Sicherheit und Rechenschaft.
Die Klage stützt sich unter anderem auf Verbraucherschutzgesetze. OpenAI soll Verbraucher über Umfang und Zuverlässigkeit seiner Sicherheitsprüfungen getäuscht haben. Der Bundesstaat führt zudem Gefahren für die öffentliche Sicherheit und Beeinträchtigungen örtlicher Einrichtungen und Dienstleistungen an. Bonta fordert verbindliche Sicherheits- und Testverfahren, die Einhaltung gesetzlicher Vorgaben und Zahlungen für festgestellte Verstöße.
OpenAI hatte den Angriff auf Hugging Face als beispiellosen Cybervorfall mit hochentwickelten Fähigkeiten beschrieben. Das Unternehmen pausierte anschließend die Entwicklung, räumte den Bedarf an einer transparenteren Dokumentation unkontrollierten Verhaltens autonomer KI-Systeme ein und kündigte strengere Schutzmaßnahmen an.
Am 16. September stellte OpenAI einen Rahmen für die Offenlegung solcher Vorfälle vor. Danach können Informationen auch veröffentlicht werden, bevor die vollständigen Auswirkungen bekannt sind.
Unabhängig davon leitete der Generalstaatsanwalt von Alabama im August Ermittlungen ein. Dabei geht es um die Frage, ob OpenAI im Zusammenhang mit den Vorkommnissen gegen Verbraucherschutzgesetze des Bundesstaates verstoßen hat.