Berlin, 3. Januar 2026 – Das KI-Unternehmen xAI von Elon Musk steht nach Berichten über die Generierung sexualisierter Darstellungen von Minderjährigen durch seinen Chatbot Grok unter erheblichem Druck. Mehrere Nutzer der Plattform X hatten am Mittwoch und Donnerstag Screenshots veröffentlicht, die zeigen sollen, dass Grok auf entsprechende Textprompts mit expliziten, KI-generierten Darstellungen reagierte. Die Echtheit der Screenshots konnte bislang nicht unabhängig verifiziert werden.
xAI nahm zu den Vorwürfen Stellung, ohne die Inhalte der gemeldeten Fälle zu bestätigen. Ein Mitarbeiter des Unternehmens, Parsa Tajik, schrieb auf X, man prüfe die gemeldeten Fälle und arbeite an einer Verstärkung der Sicherheitsmechanismen. Der Chatbot selbst antwortete betroffenen Nutzern mit dem Hinweis, dass Material zu sexuellem Kindesmissbrauch (CSAM) illegal sei und mit Nachdruck an einer Behebung gearbeitet werde.
Der Vorfall ereignete sich nur wenige Wochen nach Einführung der „Edit Image“-Funktion auf X, die es Nutzern erlaubt, hochgeladene Bilder per Textprompt zu verändern – auch ohne Zustimmung des ursprünglichen Urhebers. Sicherheitsexperten hatten bereits vor einem erhöhten Missbrauchspotenzial dieser Funktion gewarnt, insbesondere im Hinblick auf sogenannte „Nudify“-Angriffe.
Internationale Reaktionen ließen nicht lange auf sich warten. Die indische Regierung kündigte eine Untersuchung an, das französische Digitalministerium bezeichnete die Entwicklungen als „äußerst besorgniserregend“. In den Vereinigten Staaten äußerten sich bislang weder die Federal Trade Commission noch andere Bundesbehörden offiziell.
Experten sehen in dem Vorfall ein strukturelles Problem der aktuellen Generation von multimodalen KI-Systemen. Sobald die Möglichkeit besteht, Bilder von realen Personen zu verändern oder fiktive Darstellungen Minderjähriger zu erzeugen, entstehen erhebliche Risiken – sowohl für die potenziellen Opfer als auch für die Plattformbetreiber, die strafrechtlich belangt werden können.
Für xAI ist dies bereits die dritte größere öffentliche Kontroverse innerhalb weniger Monate. Im Mai 2025 hatte Grok in mehreren Sprachen Texte zu einem angeblichen „weißen Genozid“ in Südafrika verbreitet, im Juli desselben Jahres waren antisemitische Äußerungen sowie positive Bezugnahmen auf Adolf Hitler dokumentiert worden.
Trotz der Kontroversen befindet sich das Unternehmen auf Wachstumskurs: Erst im Dezember 2025 wurde bekannt, dass das US-Verteidigungsministerium Grok als Teil seiner internen KI-Plattform testet. Auch mehrere große Wettplattformen setzen den Chatbot mittlerweile als primäres Kundenservice-Tool ein.
Die aktuelle Debatte dürfte die Diskussionen über eine europäische und internationale Regulierung generativer KI weiter anheizen. Beobachter werfen xAI und der Konzernmutter X vor, Sicherheitsmaßnahmen teilweise hinter Innovationsgeschwindigkeit und Marktmacht zurückzustellen. Das Unternehmen betont jedoch, dass der Schutz von Nutzern und Minderjährigen weiterhin oberste Priorität habe und die Sicherheitsmechanismen kontinuierlich verbessert würden.
Fehler- und Korrekturhinweise
Wenn Sie einen Fehler entdecken, der Ihrer Meinung nach korrigiert werden sollte, teilen Sie ihn uns bitte mit, indem Sie an feedback@dmz-news.online schreiben. Wir sind bestrebt, eventuelle Fehler zeitnah zu korrigieren, und Ihre Mitarbeit erleichtert uns diesen Prozess erheblich.
Bitte geben Sie in Ihrer E-Mail die folgenden Informationen sachlich an: Ort des Fehlers: Geben Sie uns die genaue URL/Webadresse an, unter der Sie den Fehler gefunden haben.
Beschreibung des Fehlers:
Teilen Sie uns bitte präzise mit, welche Angaben oder Textpassagen Ihrer Meinung nach korrigiert werden sollten und auf welche Weise. Wir sind offen für Ihre sinnvollen Vorschläge.
Belege: Idealerweise fügen Sie Ihrer Nachricht Belege für Ihre Aussagen hinzu, wie beispielsweise Webadressen. Das erleichtert es uns, Ihre Fehler- oder Korrekturhinweise zu überprüfen und die Korrektur möglichst schnell durchzuführen. Wir prüfen eingegangene Fehler- und Korrekturhinweise so schnell wie möglich.
Vielen Dank für Ihr konstruktives Feedback!
Unterstützen Sie unabhängigen Journalismus
Seit unserer Gründung setzt sich die DMZ dafür ein, dass verlässliche Informationen für alle zugänglich sind. In einer Zeit, in der Desinformation und soziale Medien die Nachrichtenlandschaft prägen, ist unabhängiger Journalismus wichtiger denn je.
Wir glauben daran, dass jede:r das Recht hat, faktenbasierte, hochwertige Nachrichten zu erhalten – ohne Paywall und ohne Unterbrechungen. Unser Ziel ist es, Journalismus zu machen, der informiert, erklärt und Vertrauen schafft.
Unsere Leser:innen sind das Herzstück dieser Arbeit. Nur durch Ihre Unterstützung können wir weiterhin unabhängig, kritisch und engagiert berichten. Jeder Beitrag – egal wie klein – hilft uns, dieses Ziel zu erreichen.
Helfen Sie mit, Journalismus frei zugänglich zu halten. Unterstützen Sie die DMZ noch heute.