KOMMENTAR
OpenAI verliert bei einem Test mit einem AI-Modell die Kontrolle. Diese Nachricht wird momentan mal wieder bis zur Unkenntlichkeit weiter gedreht, um Erregungsjournalismus zu fördern. Daher kurz ein paar Worte dazu.
Was KI an der Stelle macht, ist nichts anderes als Sicherheitsexperten oder Hacker auch tun. Source-Codes, Systemarchitekturen, Netzwerkumgebungen werden auf Fehler und Lücken untersucht. Daraus kann man Angriffsstrategien entwickeln. Die Palette ist groß, das reicht von einer ungewollte “Backdoor”, also einem nicht dokumentierten direkten Zugang bis zu systematischen Abfragesequenzen, die ein System mit verschiedenen Folgen überlasten.
KI macht das (natürlich) genauso, weil sie aus der Summe dieser Möglichkeiten und Vorgehensweise trainiert wurde. Sie macht das aber erstens gnadenlos vollständig und zweitens unfassbar schnell. Das ist in der Gesamtwirkung daher wirkungsvoller als Teams von Menschen es erreichen können. Daher wird nebenbei bemerkt KI als Abwehrschirm unverzichtbar. Wer das nicht macht, muss nur warten, bis irgendein Modell mal um die Ecke kommt und im eigenen Wohnzimmer Platz nimmt.
Wie in vielen anderen Fällen automatisiert und beschleunigt KI hier also nur, was Menschen vorher gemacht haben und am besten stellt man KI dagegen auf. Es gibt aus meiner Sicht “aufregender” Dinge rund um KI als das.
Im vorliegenden Fall hat zudem keine “dämonische” KI irgendwas eigenständiges getan. Das Modell hatte bei OpenAI lediglich den Auftrag, Systeme mit Sicherheitslücken zu suchen und diese anzugreifen. Das ist leider eine typische Hacker-Vorgehensweise: Die wählen gar kein spezifisches Angriffsziel, sondern lassen von ihren Tools irgendeinen Service suchen, der irgendeine Lücke hat. Was dann gefunden und angegriffen wird, ist Zufall.
So hat dieses Modell hier zuerst die eigene Umgebung bei OpenAI als Ziel identifiziert und die unzureichende Abschottung überwunden. Das sollte nämlich alles im internen Netz von OpenAI ablaufen. Nach diesem “Ausbruch” wurde dann die Website von “Hugging Face” angegriffen. Übrigens erfolglos, denn deren Sicherheitssysteme bemerkten und stoppten den Angriff. Sie merkten sogar, dass der von einem der leistungsfähigeren KI-Labore kommen musste, wodurch letztlich OpenAI identifiziert werden konnte.
Das ist keine Petitesse, aber diese Dämonisierung ist nicht angemessen. Die KI hat ausgeführt, was ihr Auftrag war, es hat sich nichts verselbständigt. Was aber klar ist: Das sind mächtige Werkzeuge, die offensichtlich auch die Kontrollmöglichkeiten der eigenen Hersteller überfordern können.
Selbstverständlich ist das also ein ernster Vorgang, der die Initiativen, über die ich berichtete, bestätigt. Umso sachgerechter sollte aber berichtet werden. KI ist weder ein nutzloses Spielzeug, was viele immer noch so sehen, es ist aber auch keine Superintelligenz, die ihre eigenen Wege geht.
KI ist das mächtigste Werkzeug, das die Menschheit je erfunden hat. Zudem eines, das sich selbst weiter entwickelt. Selbstverständlich muss über den Einsatz des Werkzeugs gesprochen und der muss auch geregelt werden. Mit wahlweise Verharmlosung oder Dämonisierung geht das aber nicht.
Fehler- und Korrekturhinweise
Bitte geben Sie in Ihrer E-Mail die folgenden Informationen sachlich an: Ort des Fehlers: Geben Sie uns die genaue URL/Webadresse an, unter der Sie den Fehler gefunden haben.
Wenn Sie einen Fehler entdecken, der Ihrer Meinung nach korrigiert werden sollte, teilen Sie ihn uns bitte mit, indem Sie an feedback@dmz-news.online schreiben. Wir sind bestrebt, eventuelle Fehler zeitnah zu korrigieren, und Ihre Mitarbeit erleichtert uns diesen Prozess erheblich.
Beschreibung des Fehlers:
Teilen Sie uns bitte präzise mit, welche Angaben oder Textpassagen Ihrer Meinung nach korrigiert werden sollten und auf welche Weise. Wir sind offen für Ihre sinnvollen Vorschläge.
Belege: Idealerweise fügen Sie Ihrer Nachricht Belege für Ihre Aussagen hinzu, wie beispielsweise Webadressen. Das erleichtert es uns, Ihre Fehler- oder Korrekturhinweise zu überprüfen und die Korrektur möglichst schnell durchzuführen. Wir prüfen eingegangene Fehler- und Korrekturhinweise so schnell wie möglich.
Vielen Dank für Ihr konstruktives Feedback!
Unterstützen Sie unabhängigen Journalismus
Seit unserer Gründung setzt sich die DMZ dafür ein, dass verlässliche Informationen für alle zugänglich sind. In einer Zeit, in der Desinformation und soziale Medien die Nachrichtenlandschaft prägen, ist unabhängiger Journalismus wichtiger denn je.
Wir glauben daran, dass jede und jeder das Recht hat, faktenbasierte, hochwertige Nachrichten zu erhalten – ohne Paywall und ohne Unterbrechungen. Unser Ziel ist es, Journalismus zu machen, der informiert, erklärt und Vertrauen schafft.
Unsere Leserinnen und Leser sind das Herzstück dieser Arbeit. Nur durch Ihre Unterstützung können wir weiterhin unabhängig, kritisch und engagiert berichten. Jeder Beitrag – egal wie klein – hilft uns, dieses Ziel zu erreichen.
Helfen Sie mit, Journalismus frei zugänglich zu halten. Unterstützen Sie die DMZ noch heute.