Die generative Künstliche Intelligenz verändert grundlegend, wie Inhalte im Internet entstehen. Bilder, Videos und Texte, die damit erstellt oder stark bearbeitet werden, sind inzwischen oft kaum noch von echten Aufnahmen zu unterscheiden. Für Medien, Politik und die öffentliche Debatte ist das längst kein Randthema mehr.
Synthetische Medien – eine neue Grauzone
Forschungseinrichtungen beobachten diesen Trend seit Jahren. Unter dem Begriff „synthetic media“ werden Inhalte verstanden, die ganz oder teilweise künstlich erzeugt oder verändert wurden und reale Personen, Stimmen oder Situationen überzeugend nachbilden können.
Auch die Europäische Union hat reagiert: Der Digital Services Act (DSA) verpflichtet große Plattformen dazu, Risiken durch Desinformation, manipulierte Inhalte und sogenanntes inauthentisches Verhalten systematisch zu erkennen und zu reduzieren.
Zwischen Influencern, Avataren und künstlichen Profilen
Im Alltag verschwimmt das zunehmend. Influencer arbeiten mit automatisierten Tools, Marken setzen virtuelle Figuren ein, und teilweise entstehen Profile, die wie echte Menschen wirken, obwohl sie keine reale Person repräsentieren.
In der Fachliteratur wird dafür häufig der Begriff „synthetische Identitäten“ verwendet. Gemeint sind digital erzeugte oder stark automatisierte Profile, die reale Personen simulieren oder vollständig künstliche Identitäten darstellen können. Sie werden in unterschiedlichen Kontexten eingesetzt – etwa im Marketing, zur Reichweitensteigerung oder in Kommunikationsstrategien. Entscheidend ist: Die Grenzen zwischen legitimer Automatisierung und problematischer Täuschung sind oft schwer eindeutig zu ziehen.
Warum solche Inhalte so gut funktionieren
Ein Teil der Erklärung liegt in der menschlichen Wahrnehmung. Bilder und emotional aufgeladene Inhalte werden schnell verarbeitet und häufig als glaubwürdig eingestuft – besonders dann, wenn sie bestehende Überzeugungen bestätigen.
Psychologen beschreiben diesen Effekt als Bestätigungsfehler (confirmation bias).
Der World Economic Forum Global Risks Report zählt Desinformation und synthetische Medien in seinen aktuellen Ausgaben zu den zentralen kurzfristigen Risiken für Informationsintegrität und gesellschaftliches Vertrauen. Besonders hervorgehoben wird die wachsende Schwierigkeit, authentische von künstlich erzeugten Inhalten zu unterscheiden.
Was dagegen unternommen wird
Es gibt verschiedene Gegenmaßnahmen:
- Der C2PA-Standard entwickelt technische Verfahren zur Nachvollziehbarkeit der Herkunft digitaler Inhalte (Content Credentials). Ziel ist es, Veränderungen und Ursprünge von Medieninhalten sichtbar zu machen.
- Der Digital Services Act verpflichtet große Plattformen in der EU zu mehr Transparenz und systematischem Risikomanagement.
- Die OECD erarbeitet internationale Leitlinien für den Umgang mit künstlich erzeugten Inhalten und Fragen der Informationsintegrität.
Trotz dieser Ansätze bleibt die Entwicklung ein Wettrennen: Die Technologien sind global verfügbar, kostengünstig und entwickeln sich schnell weiter.
Das eigentliche Problem
Es geht längst nicht mehr nur um einzelne falsche Inhalte. Entscheidend ist ihre Alltäglichkeit.
Wenn im Netz immer weniger klar erkennbar ist, was echt ist und was nicht, verschiebt sich die Grundlage öffentlicher Kommunikation. Statt überprüfbarer Realität wirken zunehmend plausible Darstellungen.
Das Ergebnis ist eine wachsende strukturelle Unsicherheit: Nicht alles wird ungeprüft geglaubt – aber vieles wirkt glaubwürdig genug, um Meinungen, Diskussionen und Entscheidungen zu beeinflussen.
Fehler- und Korrekturhinweise
Wenn Sie einen Fehler entdecken, der Ihrer Meinung nach korrigiert werden sollte, teilen Sie ihn uns bitte mit, indem Sie an feedback@dmz-news.online schreiben. Wir sind bestrebt, eventuelle Fehler zeitnah zu korrigieren, und Ihre Mitarbeit erleichtert uns diesen Prozess erheblich.
Bitte geben Sie in Ihrer E-Mail die folgenden Informationen sachlich an: Ort des Fehlers: Geben Sie uns die genaue URL/Webadresse an, unter der Sie den Fehler gefunden haben.
Beschreibung des Fehlers:
Teilen Sie uns bitte präzise mit, welche Angaben oder Textpassagen Ihrer Meinung nach korrigiert werden sollten und auf welche Weise. Wir sind offen für Ihre sinnvollen Vorschläge.
Belege: Idealerweise fügen Sie Ihrer Nachricht Belege für Ihre Aussagen hinzu, wie beispielsweise Webadressen. Das erleichtert es uns, Ihre Fehler- oder Korrekturhinweise zu überprüfen und die Korrektur möglichst schnell durchzuführen. Wir prüfen eingegangene Fehler- und Korrekturhinweise so schnell wie möglich.
Vielen Dank für Ihr konstruktives Feedback!
Unterstützen Sie unabhängigen Journalismus
Seit unserer Gründung setzt sich die DMZ dafür ein, dass verlässliche Informationen für alle zugänglich sind. In einer Zeit, in der Desinformation und soziale Medien die Nachrichtenlandschaft prägen, ist unabhängiger Journalismus wichtiger denn je.
Wir glauben daran, dass jede:r das Recht hat, faktenbasierte, hochwertige Nachrichten zu erhalten – ohne Paywall und ohne Unterbrechungen. Unser Ziel ist es, Journalismus zu machen, der informiert, erklärt und Vertrauen schafft.
Unsere Leserinnen und Leser sind das Herzstück dieser Arbeit. Nur durch Ihre Unterstützung können wir weiterhin unabhängig, kritisch und engagiert berichten. Jeder Beitrag – egal wie klein – hilft uns, dieses Ziel zu erreichen.
Helfen Sie mit, Journalismus frei zugänglich zu halten. Unterstützen Sie die DMZ noch heute.