Wir haben Google nicht richtig gelernt. Jetzt lernen wir KI auf dieselbe Weise.

ESSAY

Vom Copy-and-paste über „Dr. Google“ bis ChatGPT: Je leistungsfähiger digitale Werkzeuge werden, desto größer wird die Versuchung, nicht nur Arbeit, sondern auch das eigene Urteil an sie abzugeben.

Es ist eine Situation, die inzwischen fast alltäglich geworden ist. Man hat eine Frage, tippt sie in ChatGPT ein und bekommt wenige Sekunden später eine Antwort, die vernünftig klingt. Sie ist ordentlich formuliert, enthält Erklärungen und oft sogar Beispiele. Man liest sie – und ertappt sich vielleicht dabei, dass man schon nach dem ersten Absatz aufhört, weiter darüber nachzudenken.

Das ist bequem. Und genau darin liegt das Problem.

Denn eine Antwort, die überzeugend klingt, muss deshalb noch lange nicht richtig sein. Eigentlich kennen wir diese Situation schon. Nur hieß das Werkzeug früher anders. Zuerst war es Copy and Paste. Dann kam Google. Und irgendwann war Google für manche Menschen schon fast zum „Dr. Google“ geworden.

Was wir mit Google gelernt haben – oder eben nicht

Copy and Paste war eine kleine digitale Revolution. Texte ließen sich plötzlich in Sekunden übernehmen. Niemand musste mehr ganze Passagen abtippen. Die Technik war sinnvoll. Nur war die Versuchung groß, mit ihr nicht nur Arbeit, sondern auch eigenes Denken einzusparen.

Wer einen fremden Text kopiert und als seinen eigenen ausgibt, hat zwar einen Text. Er hat aber noch lange keine eigene Leistung erbracht. Das alte Sprichwort vom „Sich-mit-fremden-Federn-Schmücken“ bekam damit eine ziemlich praktische Tastenkombination. Google war zunächst eine andere Sache. Die Suchmaschine gab einem keine fertige Antwort, sondern eine Auswahl von Quellen. Man musste sich selbst durch die Ergebnisse arbeiten. Gute Quellen von schlechten unterscheiden. Widersprüchliche Angaben vergleichen.

Natürlich haben das nicht alle getan. Gerade bei medizinischen Fragen wurde Google schnell zum Ersatz für etwas, das eigentlich nicht ersetzt werden sollte: professionelle Beratung. Wer Kopfschmerzen hatte, suchte nach Kopfschmerzen. Wer einen Ausschlag entdeckte, suchte nach Bildern. Und wer lange genug suchte, fand irgendwann fast zwangsläufig eine Krankheit, zu der die eigenen Symptome passen konnten.

Das bedeutet nicht, dass Gesundheitsinformationen aus dem Internet nutzlos wären. Im Gegenteil. Eine systematische Übersichtsarbeit, die 48 Studien ausgewertet hat, kam zu dem Ergebnis, dass Online-Informationen Menschen durchaus helfen können, etwa um sich auf einen Arztbesuch vorzubereiten oder bessere Fragen zu stellen. Entscheidend sind die Qualität der Informationen und die Fähigkeit, sie richtig einzuordnen.

Genau diese Unterscheidung ist wichtig: Das Internet kann den Zugang zu Wissen erleichtern. Es nimmt einem aber nicht automatisch die Verantwortung für die Entscheidung ab.

Bei generativer KI wird diese Grenze schwieriger zu erkennen. Google zeigte eine Liste von Ergebnissen. ChatGPT formuliert bereits eine Antwort. Das ist ein erheblicher Unterschied.

Wenn eine Antwort schon wie eine Entscheidung klingt

Sprachmodelle sind erstaunlich gut darin, Ordnung in Informationen zu bringen. Sie können komplizierte Sachverhalte erklären, Texte zusammenfassen, Argumente gegenüberstellen und Vorschläge machen. Das ist ihre Stärke.

Ihre Schwäche liegt nicht nur darin, dass sie Fehler machen. Das tun Menschen und Suchmaschinen ebenfalls. Schwieriger ist, dass ein Fehler in einem gut formulierten KI-Text oft nicht wie ein Fehler aussieht. Eine Studie von Microsoft Research und der Carnegie Mellon University aus dem Jahr 2025 untersuchte 319 Wissensarbeiter und 936 konkrete Situationen, in denen generative KI bei der Arbeit eingesetzt wurde. Die Forscher fanden einen Zusammenhang zwischen größerem Vertrauen in die KI und weniger selbstberichteter kritischer Denkarbeit. Die Denkarbeit verschob sich vielmehr in Richtung Überprüfung und Einordnung der Antworten.

Das klingt zunächst gar nicht dramatisch. Schließlich soll ein Werkzeug Arbeit abnehmen. Die Frage ist nur, welche Arbeit. Wenn mir eine KI einen Absatz formuliert, kann ich ihn prüfen. Wenn sie mir zehn Ideen liefert, kann ich die elfte entwickeln. Wenn sie mir eine Struktur vorschlägt, kann ich sie verändern. Dann ist sie ein Werkzeug. Wenn ich dagegen nur noch übernehme, was sie mir vorgibt, wird aus Unterstützung irgendwann Stellvertretung. Und genau da wird es interessant. Denn die Maschine hat keine Verantwortung für die Antwort. Ich schon.

Das kann im Gerichtssaal teuer werden

Inzwischen gibt es genügend Beispiele dafür, dass diese Unterscheidung nicht nur theoretisch ist. Im September 2026 verhängte der Oberste Gerichtshof von New Mexico eine Geldstrafe von 5.000 Dollar gegen den Anwalt Stephen Aarons. In einem Schriftsatz zu einem Mordfall waren unter anderem erfundene Zeugenaussagen und fiktive Zeugen aufgetaucht, die von ChatGPT erzeugt worden waren. Aarons hatte ChatGPT verwendet, um die Prozessakten zusammenzufassen, und die Ergebnisse nicht ausreichend überprüft.

Das eigentlich Bemerkenswerte daran ist nicht, dass ChatGPT etwas erfunden hat. Dass Sprachmodelle sogenannte Halluzinationen produzieren können, ist inzwischen bekannt. Bemerkenswert ist, dass ein Jurist die Maschine offenbar weit genug an sich herangelassen hatte, dass deren Fehler in ein Gerichtsdokument gelangen konnten.

Auch aus Oklahoma wurde 2026 ein ähnlicher Fall bekannt. Richter Lawrence Wheeler soll ChatGPT für juristische Recherchen verwendet haben. In einer Entscheidung fanden sich anschließend erfundene Gerichtsentscheidungen. Man kann daraus durchaus eine Lehre ziehen, ohne daraus gleich eine Anklage gegen künstliche Intelligenz zu machen.

Ein Anwalt kann ChatGPT sinnvoll einsetzen. Ein Richter kann ein Sprachmodell als Recherche- oder Schreibwerkzeug verwenden. Aber die letzte Prüfung kann nicht an die Maschine delegiert werden. Das gilt eigentlich für jedes professionelle Werkzeug. Nur ist es bei KI besonders leicht, diesen letzten Schritt zu vergessen, weil die Maschine nicht nur etwas berechnet, sondern einem gleich die passende Sprache dazu liefert.

Und dann gibt es noch die andere Seite

Die gleiche Technologie, die einem Studenten beim Strukturieren einer Arbeit hilft oder einem Designer zehn Entwürfe liefert, kann natürlich auch von Menschen mit ganz anderen Absichten genutzt werden. Das FBI registrierte 2025 mehr als 22.000 Beschwerden, in denen künstliche Intelligenz eine Rolle spielte. Die gemeldeten bereinigten Schäden beliefen sich auf rund 893 Millionen Dollar. Genannt werden unter anderem gefälschte Profile, personalisierte Betrugsgespräche, Romance-Scams, sogenannte Business-E-Mail-Compromise-Angriffe und Voice-Cloning.

Das ist nicht deshalb bemerkenswert, weil KI den Betrug erfunden hätte. Sie hat vielmehr eine ganze Reihe bekannter Methoden einfacher skalierbar gemacht. OpenAI berichtete 2026 beispielsweise über ein in Kambodscha operierendes Betrugsnetzwerk, das ChatGPT unter anderem für gefälschte Personas, Übersetzungen, Gesprächsskripte und die Kommunikation mit Opfern eingesetzt haben soll. Auch bei Gewaltverbrechen ist inzwischen dokumentiert, dass Täter generative KI genutzt haben.

Beim Anschlag mit einem Tesla Cybertruck in Las Vegas am 1. Januar 2025 fanden Ermittler ChatGPT-Abfragen des Täters Matthew Livelsberger zu Sprengstoffen, Munition und Zündmechanismen. Bei dem Vorfall wurden sieben Menschen leicht verletzt. Solche Fälle sollte man allerdings nicht überinterpretieren. Dass jemand ChatGPT benutzt, bedeutet nicht automatisch, dass die KI eine Tat verursacht oder einen Menschen erst zum Täter gemacht hat. Motive und Entscheidungen liegen beim Menschen.

Aber auch das ist Teil der Geschichte: Ein Werkzeug, das Wissen und Fähigkeiten leichter zugänglich macht, wird irgendwann von allen benutzt werden – auch von denen, die es für schlechte Zwecke einsetzen. Das ist bei Computern nicht anders gewesen. Bei Verschlüsselung nicht. Bei sozialen Netzwerken nicht. Nur ist die Einstiegshürde bei generativer KI besonders niedrig.

Was dabei mit kreativer Arbeit passiert

Vielleicht wird sich die gesellschaftliche Veränderung aber an einer ganz anderen Stelle besonders deutlich zeigen: bei der Arbeit, die wir heute noch selbstverständlich als kreativ bezeichnen. Ein Plakat. Ein Flyer. Eine Präsentation. Ein Logo. Ein Werbetext. Vieles davon lässt sich inzwischen in wenigen Minuten erzeugen. Für Unternehmen ist das zunächst attraktiv. Wer früher mehrere Stunden Gestaltung einkaufen musste, bekommt heute zehn Varianten, bevor überhaupt ein Designer beauftragt wurde.

Nur ist damit noch nicht entschieden, welche dieser zehn Varianten gut ist. Das wird leicht vergessen. Ein guter Designer macht nicht einfach etwas, das ordentlich aussieht. Er entscheidet, welche Information wichtig ist, welche Zielgruppe angesprochen werden soll, welche Idee funktioniert und welche besser wieder verworfen wird. Oft besteht die eigentliche Leistung sogar darin, etwas wegzulassen. Genau das lässt sich schwer automatisieren.

Und es gibt noch eine zweite Frage: Was passiert mit der Wertschätzung dieser Arbeit, wenn das Ergebnis selbst plötzlich fast nichts mehr kostet? Eine 2026 veröffentlichte Studie im Journal of the Academy of Marketing Science fand in mehreren Experimenten Hinweise darauf, dass Menschen KI-generierten Produkten unter bestimmten Bedingungen weniger „genuine care“, also menschliche Sorgfalt und Anteilnahme, zuschreiben. Eine weitere Studie zu KI-generierten Produktdesigns kam zu ähnlichen Ergebnissen bei der wahrgenommenen Authentizität.

Das heißt nicht, dass ein von KI erzeugtes Plakat schlechter ist. Es heißt nur, dass wir Gestaltung offenbar nicht ausschließlich nach dem Ergebnis beurteilen. Auch die Frage, wer etwas gemacht hat und mit welcher Absicht, spielt eine Rolle. Das könnte für Kreative wichtiger werden, als es auf den ersten Blick aussieht. Wenn die Herstellung eines Bildes oder eines Textes nahezu kostenlos wird, wird nicht automatisch die gesamte kreative Arbeit wertlos. Im Gegenteil. Die Fähigkeit, eine gute Idee zu haben, sie einzuordnen und aus vielen Möglichkeiten die richtige auszuwählen, könnte wichtiger werden. Allerdings nur dann, wenn Auftraggeber diesen Unterschied noch erkennen.

Vielleicht ist „Prompt Engineering“ gar nicht die wichtigste Fähigkeit

In der Diskussion über künstliche Intelligenz wird viel darüber gesprochen, wie man gute Prompts schreibt. Das ist sicherlich nützlich. Ich frage mich allerdings, ob eine andere Fähigkeit nicht wichtiger ist: zu wissen, wann man überhaupt keinen Prompt schreiben sollte.

• Wann man eine Originalquelle lesen muss.
• Wann man selbst recherchieren sollte.
• Wann ein Arzt gefragt werden muss.
• Wann ein Jurist die Akte prüfen muss.
• Wann ein Designer nicht zehn KI-Varianten braucht, sondern zuerst eine Idee.
• Und wann eine KI-Antwort einfach nicht überzeugend genug ist, um sie zu übernehmen.

Das ist keine Technikfeindlichkeit. Im Gegenteil. Es ist wahrscheinlich die Voraussetzung dafür, Technik vernünftig zu benutzen. Wir haben diese Lektion bei Google nur halb gelernt. Wir wissen inzwischen, wie man etwas sucht. Wir wissen weniger gut, wie man entscheidet, ob das Gefundene stimmt.

Mit KI wird dieser Unterschied noch größer. Denn Google hat uns immerhin noch gezeigt, woher eine Information kam. Ein Sprachmodell kann daraus eine flüssige, geschlossene Geschichte machen. Und geschlossene Geschichten fühlen sich schnell wahrer an als einzelne Fundstellen. Vielleicht ist das die eigentliche Aufgabe der kommenden Jahre: nicht künstliche Intelligenz möglichst schnell überall einzusetzen, sondern zu lernen, welche Entscheidungen wir ihr gerade deshalb nicht überlassen sollten, weil sie so gut darin geworden ist, uns Arbeit abzunehmen.

Wir müssen KI nicht weniger benutzen.

Wir müssen nur aufpassen, dass wir beim Benutzen nicht verlernen, selbst zu entscheiden.