AI-Bagatellisierung und ROI-Überlegungen sind toxisch

KOMMENTAR

Passend zur Vorbereitung eines Vortrags auf dem „entwickler Summit“ in Berlin am kommenden Donnerstag schreibt der Anthropic-Chef Amodei einen Blogbeitrag, der die Sicherheitsfrage moderner Spitzen-AI erneut befeuert. Teil meines Vortrags zur Analyse und Reaktion auf Disruptionen.

Amodeis Beitrag wird in Fachkreisen zunächst mal unterstützt, wohl wissend, dass er mitten in einem IPO-Prozess jede Aufmerksamkeit braucht und sein Wettbewerber Altman jede Ausrede sucht, seinen IPO abzusagen. Leider wird das von nicht wenigen genau deshalb mal wieder bagatellisiert. Davor kann ich nur ausdrücklich warnen. Hinweis auf dumme LLMs sind für mich persönlich von derselben Kategorie wie die auf chinesische Planwirtschaft mit Überkapazitäten. Sorry für die Parallele, ich gebe jedem, der zufällig beides oder so viele ähnliche Abwehrreflexe gerne vertritt, diese Denkaufgabe bewusst mit.

Was LLMs betrifft, so gebe zur Selbsterfahrung den Tipp, eines der besseren Modelle mit zwei (binären) Zahlenreihen zu beschäftigen und zu fragen, wie es Zusammenhänge dazwischen ermitteln kann. Spätestens beim Vorschlag, eine regressive Korrelationsanalyse zu machen UND diese durchzuführen, wird man die Sicht auf „LLM“ vielleicht prüfen?

Was hier passiert, ist eine typische marktgetriebene Entwicklung, die ich in meinem Vortrag als „technoökonomische Disruption“ bezeichne: Die führenden Modelle fokussieren sich angetrieben von Anthropic momentan auf die B2B-Bereiche Softwareentwicklung und IT-Security, weil da die ersten ernsthaften Geschäftsmodelle liegen. Beide Bereiche wurden in wenigen Monaten glasklar disruptiert. Das hat mit LLM nichts mehr zu tun, mit Sprache auch nicht mehr. Das ist tiefe Fachlogik aus den beiden Bereichen, die sehr schnell in AI trainierbar war. Selbst Fachleute sind überrascht. Wir befinden uns in der Disruption dieser Segmente gerade in dem markierten Bereich des Charts.

Niemand, ich wiederhole niemand, sollte glauben, dass es Anwälten, Wirtschaftsprüfern … Ärzten, Apothekern … Installateuren, Schornsteinfegermeistern … anders geht, wenn ein dafür tief genug aufgestelltes AI-Labor sich deren Segment vornimmt!

Das heißt nicht, alle Jobs gehen verloren, aber es heißt, dass alle – und ich nutze hier bewusst den Allquantor – sich verändern werden. Wie bei jeder Disruption werden diejenigen verlieren, die zu lange von „dummen LLMs“ sprechen, die „keinen ROI“ haben!

Die Gefahr im Security-Bereich ist definitiv evident und die konkreteren Warnungen, die medial zu sehr mit irgendwelchen Doomsday-Formulierungen von Auslöschungen daherkommen, beziehen sich sehr konkret auf die Gefahr, dass unsere globale Internet-Infrastruktur durch eine unkontrollierte Spitzen-AI, ich sage es mal mit einem einfachen Wort, so „durchseucht“ wird, dass die mindestens massive Schäden anrichtet, schlimmstenfalls nicht mehr in den Griff zu bekommen ist. Ich muss hoffentlich nicht darauf hinweisen, dass diese Infrastruktur vom Finanzsystem bis zur internen Organisation von nahezu allen Unternehmen und auch Haushalten keinen besonders großen Abstand mehr zum Stromsektor hat – der davon übrigens keineswegs unberührt bleiben würde.

Die heutigen Modelle sind nach meiner Bewertung nicht so weit, das ist IPO-PR, dem stimme ich zu. Aber niemand kennt den Restabstand zu Modellen, die so weit sind. Ich wage die Behauptung, dass es länger dauert, dagegen Abwehrmaßnahmen zu entwickeln als diesen Restabstand zu schließen. Das ist der Punkt!

Technisch, und ich fasse mich kurz, geht es um die – existierende! – Technologie sich selbst verbessernder und replizierender Modelle. Natürlich wird genau daran gearbeitet, das ist auch nicht zu vermeiden, denn dieses Potenzial ist der Technologie immanent. Das ist aber schon gar nicht mehr zu verhindern, denn u.A. bei den sogenannten Computer-Viren haben die AI-Modelle das Prinzip schon jetzt trainiert und in Ansätzen haben sie solche Methoden auch durch Initiierung von Agenten eingesetzt. Auch Methoden, bei denen Maschinen sich gegenseitig trainieren, sind längst erprobt. Alle nutzen die Fähigkeiten von AI, Software zu entwickeln, auch für die Eigenentwicklung von AI selbst. Noch ist man (hoffentlich) nicht so weit, dass eine trainierte AI sich “on the run” selbst weiter entwickelt, aber ich gehe davon aus, dass es bereits Modelle gibt, die sich zumindest adaptieren bzw. gezielt modifizieren können.

Die bisher “ausgebrochenen” Modelle, die ja gar nicht ausbrachen, sondern auf einer Instanz weiter liefern, erzeugten vergleichsweise gut erkennbare und stoppbare Muster, soweit haben die Gegner dieser Doomsday-Sprache recht. Sobald sich hier aber AI-Modelle selbst replizieren, dabei verändern, multiplizieren, lernen, wie sie sich tarnen, in Systemen einnisten, selbst Server-Instanzen starten etc., ist das ein toxisches intransparentes Schwarmverhalten ohne erkennbares Muster. Vor allem kann niemand mehr sagen, was so ein Schwarm eigentlich plant, vorhat, an Zielen verfolgt. Diese menschlichen Kategorien gehören nämlich explizit zu den Verharmlosungen, da AI genau so etwas gar nicht „kennt“.

Den Begriff des LLM sollte man streichen. Sprache ist das Interface, um das Wissen zu internalisieren und zu kommunizieren. Inzwischen spielen ganz andere Trainingsdaten die Hauptrolle und die Fähigkeiten, die daraus resultieren, haben mit Sprache gar nichts mehr zu tun. Das ist mit menschlichen Fähigkeiten übrigens nicht anders.

„We must act now“ ist korrekt. Auch die Aufrufe der AI-Bosse sind korrekt. PR hin oder her. Es ist dringend erforderlich, sowohl Sicherheitsabkommen wie bei Biowaffen zu schließen, aber auch Biowaffen-Spürpanzer zu bauen. Denn solche Abkommen sind ebenso wichtig, wie Maßnahmen gegen solche, die sich nicht daran halten oder daran scheitern.

Die Bagatellisierung muss ebenso rasch enden, wie die europäische ROI-Frage. Die Atombombe hat (leider) eine zwingende Notwendigkeit. Wer das übersieht, wird einen hoch negativen roNi (Return of non Investment) ernten, wobei ich das „N“ hier bewusst alleine großschreibe.