In die Ecke, Besen, Besen!

Goethe ist den meisten von uns nicht gerade als Science-Fiction-Autor bekannt. Vielleicht ein Fehler, beschreibt er doch in seiner Ballade »Der Zauberlehrling« auf treffende Weise unsere heutige Situation: Ein Zauberlehrling hat anscheinend keine Lust mehr auf mühsame Arbeit und überschätzt maßlos seine eigenen Fähigkeiten. Als der Meister das Haus verlassen hat, probiert er einen Zauberspruch seines Meisters aus und verwandelt damit die vorhandenen Besen in dienstbare Geister, die ihm helfen, Wasser heran zu holen. Dumm ist bloss, dass er den Zauberspruch vergessen hat, der diesen Vorgang wieder stoppt. Das Haus droht, im herbeigeschleppten Wasser unterzugehen. Doch glücklicherweise kehrt der Meister wieder zurück und beendet den Spuk.

Was hat das mit uns zu tun? Lassen Sie mich mit Suchmaschinen wie Google beginnen. Sie erfassen sowieso nur einen Teil der im Internet verfügbaren Inhalte. Das ist natürlich längst bekannt. Seit Jahren warnen aber Experten auch davor, dass Suchmaschinen nach Belieben Suchergebnisse manipulieren können und daher eine große Bedrohung für die Bildung einer unabhängigen und kritischen Meinung sind. Die Warnungen verhallen bis dato praktisch ohne Konsequenzen. Softwareunternehmen wie Google LLC können weiterhin fast ohne Regulierung schalten und walten, wie sie wollen. Eine von Kommerz unabhängige Suchmaschine – ein Pendant zur Wikipedia – ist weiterhin nicht in Sicht. Einem großen Teil der Weltbevölkerung, die Politiker eingeschlossen, fehlt einfach das Know-how, um das Problem auch nur ansatzweise zu verstehen.

KI-Tools wie ChatGPT verstärken diesen Trend noch erheblich. Sie helfen uns keineswegs selbstlos, zu unabhängigen und kritischen Wissen zu kommen. Generative KI-Tools wie ChatGPT, also KIs, die aufgrund von Benutzeranfragen weitere Daten erzeugen, müssen Suchmaschinen verwenden, um Antworten zu geben und ihre Modelle weiter aufzubauen. Die Modelle sind nachweislich mehr oder weniger fehlerhaft. Nun werden diese KI-Tools inzwischen eingesetzt, um neue Modelle von solchen generativen KIs zu entwickeln – ein Schneeballeffekt. KI-Experten warnen inzwischen mehr als deutlich vor dieser Entwicklung. Der Mathematiker Shahar Mendelson verweist zum Beispiel in dem Artikel »Wir sind noch weit davon entfernt zu verstehen, was KI eigentlich tut« darauf, dass »wegen der hohen Komplexität dieser Systeme« niemand versteht, »weshalb das System genau die Antwort gibt, die es gibt – nicht einmal die Entwickler.«

Das bedeutet also nicht nur, wie Sie selber sehr leicht überprüfen können, dass KI-Tools zum Beispiel aufgrund fehlerhafter Quellen, die ihre Suchmaschinen finden, ganz offensichtlich fehlerbehaftet sind und falsche Antworten liefern. Es bedeutet auch nicht nur, dass diese KI-Tools unsere Meinung über bestimmte Sachthemen durch eigene Algorithmen aufgrund von kommerziellen Interessen der Softwarehäuser gezielt manipulieren können. All das wäre an sich schon eine Katastrophe. Nein, es bedeutet jetzt auch noch laut der Meinung anerkannter KI-Experten wie Mendelson, dass diese KI-Tools ganz offensichtlich unberechenbar sind, was einem der wesentlichen Grundprinzipien eines ausgetesteten Programms widerspricht. Schließlich wollen wir die KI als nützliches Werkzeug doch beherrschen und nicht dulden, dass sich die KI, wie die Besen des Zauberlehrlings, unkontrolliert verhält, oder?

KI zieht momentan in alle möglichen Bereiche ein, weil – ja, warum eigentlich? Die Antwort ist einfach: Weil man damit unfassbar viel Geld verdienen kann. Es geht um Billionen von US-Dollar. Und eine Menge Firmen und Unternehmer weltweit sind hemmungslos geldgierig und scheren sich nicht um die Bedenken aufgrund der Risiken, die mangelhaft getestete KI-Modelle in sich bergen. Die Endverbraucher sind andererseits auch ganz offensichtlich zu dumm, um zu begreifen, dass hier ein technologischer Wettbewerb seitens verschiedener Firmen läuft, denn solche KI-Modelle, auf denen die Software basiert, lassen sich nicht in wenigen Monaten entwickeln. Ein Teil der Welt wird technologisch einfach abgehängt. Kritiker werden als Ewiggestrige und Verschwörungstheoretiker diskreditiert.

Was sind die Konsequenzen? Es droht, dass Schüler immer mehr verblöden, indem sie Aufsätze von ChatGPT schreiben lassen. Microsofts Copilot nimmt einem die unfassbar anstrengende Arbeit ab, sich auf den Tag einzustellen und E-Mails zu beantworten. Googles KI hilft einem mehr schlecht als recht bei der Analyse von Bildern. Und, man kann es kaum fassen, Militärs setzen KI in Waffensystemen ein. Der unkritische Einsatz von KI-Software führt dazu, dass Menschen in Zukunft noch weniger mit ihrer eigenen Intelligenz zustande bringen und von KI-Systemen abhängig sind. Menschen werden entlassen werden, weil man durch Chatbots und KI-gestützter Softwareentwicklung weniger Personal benötigt. KI-gestützte Waffensysteme gefährden unser Leben. Zudem ist der Ressourcenverbrauch, also Strom und Wasser, von generativen KI-Systemen gigantisch und zerstört weiter unsere Umwelt.

Natürlich sind diese Erkenntnisse alle nicht neu und vielfach veröffentlicht worden. Neu ist auch nicht, dass weite Teile der Öffentlichkeit und der Politik überhaupt nicht begreifen, wie groß die Gefahr inzwischen geworden ist. Neu ist allerdings, dass es inzwischen kritische Äußerungen sogar von denen gibt, denen man das am wenigstens zugetraut hätte. Im Artikel »Warten auf den Knall« wird Bill Gates aus einem Interview mit der New York Times zitiert: „Diejenigen, die wissen, wie gut diese Technologie ist und wie sehr sie sich weiterentwickelt, sind sehr besorgt“. Gates warnt, so der Artikel der Süddeutschen weiter, »die Gesellschaften seien auf die Geschwindigkeit der anstehenden Umbrüche nicht vorbereitet, auf die Verluste von Arbeitsplätzen, die rasant wachsenden Möglichkeiten, Cyberangriffe zu führen, Biowaffen herzustellen, Menschen in die Irre zu führen.«

Die Süddeutsche berichtet in dem Artikel weiter, dass es zwei Modellen des ChatGPT-Herstellers OpenAI gelungen ist, aus der für sie vorgesehenen Umgebung auszubrechen. »Sie hatten« so schreibt die Süddeutsche sich »Zugang zum Internet verschafft und in die Entwicklerplattform Huggingface gehackt.« Mit anderen Worten: Das KI-System hat ein anderes Computersystem angegriffen. Eigentlich darf das überhaupt nicht passieren, denn die Entwickler haben das System nicht dafür programmiert. Trotzdem hat die Software sich darüber hinweggesetzt. Es ist nur ein kleiner Schritt von diesem Szenario, dass wir uns fragen, ob diese böswillige Software in der Lage wäre, mit Hilfe militärischer Systeme die Menschheit zu vernichten.

Im einem weiteren Artikel der Süddeutschen ist zu lesen, dass Jacob Coxon, ein Forscher des KI-Unternehmens Anthropic, seinen Job gekündigt hat und dazu schreibt, dass weder Anthropic noch der Konkurrent OpenAI verantwortungsvoll handeln würden. Beide Unternehmen würde mit unserem Leben spielen. »Die Branche« so heisst es weiter in dem Artikel »befinde sich in einem ungebremsten Wettlauf, wer als Erster ans Ziel komme.« Evan Hubinger, ein Ex-Kollege von Coxon, gibt ihm recht: »Wir glauben wirklich und aufrichtig, dass KI alle Menschen auslöschen könnte.« Anthropic, so schreibt Hubinger weiter, gäbe sein bestes, dass sich die KI-Systeme so verhalten, wie ihre Entwickler das wollen, aber »wir sind auch noch auf keinem klaren Weg dorthin.«

OpenAI-Chef Altman hat nun die Notbremse gezogen und den Börsengang seines Unternehmens angeblich wegen Sicherheitsbedenken verschoben. Auch der Chef des KI-Konzerns Anthropic, Dario Amodei, hat dazu aufgerufen, bei der Entwicklung von künstlicher Intelligenz langsamer und bedachter vorzugehen. Wie Hubinger verwies er auf ernsthafte Risiken für Menschen. Sollten hinter dem verschobenen Börsengang von OpenAI und den Einsichten des Anthropic-Chefs tatsächlich Skrupel stecken, dass KI-Systeme der Welt Schaden zufügen könnten? Meine Meinung: Wer’s glaubt, wird selig. Es ist eher die Sorge, dass durch die immer lauter werdenden kritischen Stimmen zurecht ein Millionenschaden entsteht, weil die Menschen das Vertrauen in die Entwicklung dieser Systeme verlieren.

Um den finanziellen Schaden zu begrenzen, plädiert Amodei für ein Regelwerk, das die KI-Unternehmen selbst entwickeln sollen – natürlich in Kooperation mit demokratischen Regierungen. Das ist so, als würde man den Bock zum Gärtner machen. Genau anders herum sollte es laufen: Bis diese Unternehmen nicht vor der Veröffentlichung ihrer Software durch eine Betriebserlaubnis von unabhängigen Experten oder Gremien nachweisen können, dass von Ihren KI-Systeme keine Gefahr ausgeht, sollte dieser Software überhaupt nicht veröffentlicht werden dürfen. Man sollte ebenfalls kontrollieren, ob sie sich nicht unerlaubt Zugang zu Wissensquellen verschaffen wie bereits mehrfach geschehen. Bei Verstößen sollte man die Verbreitung der Produkte dieser Unternehmen so lange konsequent verbieten, bis die Gesetze eingehalten werden.

Weiterlesen

Süddeutsche Zeitung, 9.09.2026: »Wir sind noch weit davon entfernt zu verstehen, was KI eigentlich tut«

Süddeutsche Zeitung, 27.08.2026: Warten auf den Knall

New York Times, 26.08.2026: Bill Gates Warns A.I. Is More Dangerous Than Big Tech Will Admit

Süddeutsche Zeitung, 13.09.2026: Bremsmanöver an der Spitze der amerikanischen KI-Branche

Süddeutsche Zeitung, 10.09.2026: Todeswahrscheinlichkeit grob zehn Prozent? Guter Deal!