KI vor Gericht: Der Fall gegen Elon Musks xAI

Künstliche Intelligenz entwickelt sich rasant – doch das Recht kommt kaum hinterher. Während Bildgeneratoren und Chatbots immer leistungsfähiger werden, wächst zugleich die Sorge vor Missbrauch. Besonders problematisch sind täuschend echt wirkende, KI-generierte Bilder realer Menschen, die ohne deren Einwilligung erstellt und verbreitet werden.

Genau an diesem Punkt setzt ein aufsehenerregender Rechtsstreit in Großbritannien an. Die Klage richtet sich gegen Elon Musks KI-Unternehmen xAI und könnte weit über den Einzelfall hinaus Bedeutung erlangen. Erstmals steht nicht nur die Veröffentlichung einzelner Inhalte im Mittelpunkt, sondern die grundsätzliche Frage, ob Entwickler von KI-Systemen bereits für deren technische Gestaltung und Sicherheitsmechanismen verantwortlich gemacht werden können.

Worum geht es?

Die britische Labour-Abgeordnete Jess Asato hat beim High Court in London Klage gegen xAI eingereicht. Nach ihrer Darstellung seien mit dem KI-System Grok manipulierte und sexualisierte Bilder sowie Videos ihrer Person erstellt worden. Teilweise sollen diese Darstellungen auch Gewaltfantasien enthalten haben.

Die Politikerin verlangt deshalb nicht lediglich die Löschung einzelner Inhalte. Ihr Ziel geht deutlich weiter: Das Gericht soll xAI verpflichten, technische Maßnahmen zu entwickeln und dauerhaft einzusetzen, damit Grok künftig überhaupt keine entsprechenden Darstellungen ihrer Person mehr erzeugen kann.

Zusätzlich fordert sie Schadenersatz wegen des behaupteten Missbrauchs ihrer personenbezogenen Daten sowie wegen möglicher Verstöße gegen das britische Datenschutzrecht.

Der eigentliche Kern des Rechtsstreits

Die eigentliche juristische Brisanz liegt nicht in den bereits veröffentlichten Bildern.

Viel entscheidender ist die Frage, ob ein KI-Unternehmen bereits dann haftbar gemacht werden kann, wenn seine Software technisch in der Lage ist, rechtsverletzende Inhalte zu erzeugen.

Bislang konzentrieren sich viele Verfahren gegen KI-Anbieter auf einzelne Veröffentlichungen oder konkrete Rechtsverletzungen. In diesem Verfahren wird dagegen argumentiert, dass bereits die Architektur und das Design eines KI-Systems rechtswidrig sein könnten, wenn vorhersehbare Schutzmaßnahmen fehlen.

Sollte ein Gericht dieser Argumentation folgen, hätte dies erhebliche Folgen für die gesamte Branche.

Datenschutz wird zum zentralen Streitpunkt

Ein weiterer Schwerpunkt betrifft den Umgang mit personenbezogenen Daten.

Moderne Bildgeneratoren arbeiten häufig mit öffentlich verfügbaren Fotos, die im Internet oder auf sozialen Plattformen zu finden sind. Aus diesen Bildern können KI-Systeme täuschend echte neue Darstellungen erzeugen.

Juristisch stellt sich dabei eine bislang nicht abschließend geklärte Frage:

Darf eine KI öffentlich verfügbare Bilder einer realen Person überhaupt verwenden, wenn daraus neue, frei erfundene Inhalte entstehen?

Gerade in Europa ist diese Frage besonders sensibel. Die Datenschutz-Grundverordnung (DSGVO) stellt hohe Anforderungen an die Verarbeitung personenbezogener Daten. Hinzu kommen Persönlichkeitsrechte sowie das Recht am eigenen Bild.

Das britische Datenschutzrecht orientiert sich trotz des EU-Austritts weiterhin in vielen Bereichen an vergleichbaren Grundprinzipien.

Technische Schutzmaßnahmen stehen auf dem Prüfstand

Die Klägerseite wirft xAI vor, Grok nicht ausreichend gegen Missbrauch abgesichert zu haben.

Dabei geht es unter anderem um sogenannte „Guardrails“. Diese technischen Schutzmechanismen sollen verhindern, dass KI-Systeme problematische Inhalte erzeugen.

Zu solchen Sicherheitsmaßnahmen gehören beispielsweise:

• das Blockieren der Darstellung real existierender Personen in sexualisierten Situationen,
• die Erkennung prominenter Persönlichkeiten oder Privatpersonen,
• Filter gegen Deepfake-Inhalte,
• die Ablehnung rechtswidriger Nutzereingaben,
• sowie nachträgliche Sicherheitskontrollen der erzeugten Bilder.

Ob diese Schutzmaßnahmen ausreichend waren oder hätten weiterentwickelt werden müssen, dürfte ein zentraler Punkt des Gerichtsverfahrens werden.

Interne Vorgaben geraten ebenfalls in den Fokus

Nach den veröffentlichten Gerichtsunterlagen sollen interne Anweisungen für Grok einerseits Hilfe bei eindeutig kriminellen Handlungen untersagt haben.

Andererseits wird behauptet, dass für bestimmte sexuelle oder anstößige Inhalte deutlich weniger Einschränkungen vorgesehen gewesen seien.

Ob diese internen Richtlinien tatsächlich in der behaupteten Form bestanden, wie sie technisch umgesetzt wurden und welche Bedeutung sie juristisch besitzen, muss allerdings erst im Gerichtsverfahren geklärt werden. Bislang handelt es sich um Vorwürfe der Klägerseite, über die noch nicht rechtskräftig entschieden wurde.

Deepfakes werden zum globalen Problem

Der Rechtsstreit steht exemplarisch für ein wesentlich größeres Problem.

Mit modernen KI-Modellen lassen sich innerhalb weniger Sekunden fotorealistische Bilder und Videos erzeugen, die von echten Aufnahmen kaum noch zu unterscheiden sind. Besonders häufig betroffen sind Frauen des öffentlichen Lebens, Politikerinnen, Schauspielerinnen oder Influencerinnen.

Die Erstellung sogenannter nicht einvernehmlicher sexualisierter Deepfakes gilt inzwischen weltweit als eines der größten Missbrauchsrisiken generativer KI.

Viele Anbieter haben deshalb ihre Systeme bereits nachgebessert und zusätzliche Sicherheitsmechanismen eingeführt. Dennoch zeigen unabhängige Untersuchungen immer wieder, dass sich Sperren teilweise umgehen lassen oder einzelne Systeme weiterhin problematische Inhalte erzeugen können.

Welche Folgen hätte ein Erfolg der Klage?

Sollte das Gericht den Forderungen der Klägerin weitgehend folgen, könnte dies weitreichende Auswirkungen auf die gesamte KI-Branche haben.

Mögliche Konsequenzen wären unter anderem:

• deutlich strengere Sicherheitsvorgaben für Bildgeneratoren,
• umfangreichere Identitäts- und Gesichtserkennung zum Schutz realer Personen,
• verpflichtende technische Sperren gegen Deepfake-Missbrauch,
• größere Haftungsrisiken für Entwickler generativer KI,
• sowie strengere Anforderungen an Training, Entwicklung und Veröffentlichung neuer KI-Modelle.

Insbesondere Unternehmen, die Bildgeneratoren oder multimodale KI-Systeme entwickeln, müssten ihre Sicherheitsarchitektur möglicherweise grundlegend überarbeiten.

Warum der Fall über xAI hinaus Bedeutung besitzt

Unabhängig davon, wie das Verfahren letztlich ausgeht, zeigt der Rechtsstreit einen grundlegenden Wandel.

Lange Zeit konzentrierte sich die Regulierung künstlicher Intelligenz vor allem auf Transparenz, Urheberrecht und Datenschutz. Nun rückt zunehmend die Frage in den Mittelpunkt, welche Verantwortung Entwickler bereits bei der Konstruktion ihrer Systeme tragen.

Damit verschiebt sich der juristische Fokus von der nachträglichen Entfernung rechtswidriger Inhalte hin zur vorbeugenden technischen Verhinderung solcher Inhalte.

Genau diese Entwicklung könnte künftig zum Maßstab für den Umgang mit generativer KI werden.

Ausblick

Der Prozess gegen xAI ist weit mehr als ein Streit über einzelne manipulierte Bilder. Er könnte zu einem Grundsatzverfahren über die Verantwortung von KI-Entwicklern werden.

Sollte das Gericht entscheiden, dass Anbieter generativer KI bereits für vorhersehbare Missbrauchsmöglichkeiten ihrer Systeme haften oder zu umfassenden technischen Schutzmaßnahmen verpflichtet werden können, hätte dies Signalwirkung weit über Großbritannien hinaus.

Gerade angesichts neuer europäischer Regelwerke wie des AI Acts und der bereits bestehenden Datenschutzvorschriften dürfte die Entscheidung aufmerksam verfolgt werden. Sie könnte künftig mitbestimmen, wie Bildgeneratoren und andere KI-Systeme entwickelt, abgesichert und rechtlich bewertet werden.

---

---

(*) Hinweis: Hinter einigen Links stehen Affiliate-Programme. Für Sie bleibt der Preis exakt derselbe, wir erhalten jedoch eine kleine Provision, die wir direkt in unsere kommenden Recherchen investieren. Vielen Dank, dass Sie unsere Arbeit auf diese Weise unterstützen!