#487 – Weltuntergang, aber ohne uns «Alte»

Weltuntergangsszenarien als Kalkül
Der amerikanische Präsident Donald Trump entlarvt die Show von Big Tech – auch Bern und Berlin sollten sich nicht blenden lassen, schrieb Barnaby Skinner (52) im Kommentar der NZZ vom 19. September 2026. Die Weltuntergangsszenarien des Silicon Valley seien Kalkül. Politik und Wirtschaft täten gut daran, der Inszenierung von Big-Tech mit eigener Datensouveränität statt Angst zu begegnen. Als die Führungskräfte der grossen KI-Unternehmen lautstark davor warnten, dass ihnen die Kontrolle über die eigene Erfindung entgleiten könnte, und ein Innehalten der eigenen Arbeit verlangten, wischte Trump das Spektakel ungerührt beiseite. Dabei bezieht sich Skinner auf das englische Sprichwort: «Ein Schlitzohr erkennt das andere.» Kein Politiker hat ein feineres Gespür für die grosse Show – schliesslich operiert er als Geschäftsmann und Politiker seit je mit genau diesem Mittel. Denn hinter den altruistisch wirkenden Warnungen der Konzernchefs steckt Kalkül. Mit dieser Weltuntergangs-Rhetorik will Big Tech die Entwicklung nicht stoppen, sondern kontrollieren.

Mangelhafte Vorarbeit bei der Dateneingabe
Im Gespräch mit Berufskolleg:innen höre ich wiederholt, wie diese in der Praxis an harte Grenzen stossen, denn die unbesiegbare Superintelligenz lässt auf sich warten. Die Hoffnung, man könne einfach ein teures KI-Modell einkaufen und damit komplexe Geschäftsprobleme auf Knopfdruck lösen, hat sich bisher als Illusion erwiesen. Dazu fehlen schlicht die Daten, welche von den Unternehmen zurückbehalten werden. Dazu kommt die operative Umsetzung, denn es fehlen strukturierte Dateien wegen mangelhafter Vorarbeit bei der Eingabe. Und schlussendlich braucht es die sündhaft teuren Frontier-Modelle meist gar nicht. Firmen wechseln deshalb auf kleinere, teilweise lokal gehostete Open-Source-Modelle. Das Ergebnis: volle Datensouveränität, geringere Betriebskosten und oft verlässlichere Ergebnisse. Das bedeutet nicht, dass es keine Risiken durch KI gibt. Die Bedrohung im Hier und Jetzt ist jedoch keine bösartige, unkontrollierbare Superintelligenz, sondern der menschliche Automation-Bias. Wenn Mitarbeitende den Outputs unreifer Modelle blind vertrauen und Ergebnisse ungeprüft in kritische Prozesse einbauen.

Gefragt ist Pragmatismus
Der Fokus liegt deshalb auf der Qualitätskontrolle und in der pragmatischen Prüfung im Alltag. Kompetente, neugierige und erfahrene «Alte» im Team müssen sich deshalb intensiv mit den Systemen auseinandersetzen. Lokale Wertschöpfung bedeutet dabei, globale Grundarchitekturen mit heimischen Präzisionsdaten sicher und effizient auf konkrete Anwendungsbeispiele auszurichten. Das braucht seine Zeit und Geduld, zahlt sich am Ende jedoch aus. Schlussendlich geht es darum, die richtigen KI-Kompetenzen aufzubauen. Die essenziellen Kernkompetenzen liegen in der Datenarchitektur, dem Aufbereiten und Schützen von Fachdaten, in der gezielten Anpassung kompakter Modelle an Nischenaufgaben und in der kritischen Validierungskompetenz durch den erfahrenen Menschen. Der umwälzende Charakter dieser Technologie darf selbstverständlich nicht unterschätzt werden. Sollten wir tatsächlich in Zukunft bei echter rekursiver Selbstverbesserung der KI anlangen, stehen wir vor radikalen strukturellen Umbrüchen. Doch die heutige Haltung von Big-Tech nutzt diese Zukunftsszenarien gezielt als Nebelpetarde, um Angst zu schüren und die Regeln der Gegenwart zu diktieren. Das reale Risiko ist gemäss Barnaby Skinner unser blinder Automationsglaube bei unreifen Werkzeugen. Unsere Haltung muss deshalb zweigleisig sein: heute die Kontrolle über die Werkzeuge behalten und Qualität erzwingen, um morgen die Souveränität zu besitzen, mit echten autonomen Systemen umgehen zu können.

KI wird in denn nächsten 5-15 Jahren unverzichtbar
Unter dem Titel «Gone Wild» publizierte r/ChatGPT auf Reddit am 10. September 2026 die Antwort auf seine Frage an ChatGPT: Ich habe ChatGPT gebeten, mir ein realistisches Szenario zu liefern, wie KI zum Aussterben der Menschheit führen würde? Die KI antwortete mit einem gewohnt langen Text, den ich hier sinngemäss wiedergebe: Ein realistisches Szenario würde wahrscheinlich nicht wie «Terminator» aussehen, eher wie eine lange Abfolge vernünftiger Entscheidungen, die der Menschheit schliesslich die Möglichkeit nehmen werden, «Nein» zu sagen. KI wird unverzichtbar. Im Laufe der nächsten 5-15 Jahren übernehmen immer leistungsfähigere Systeme grosse Teile der Softwareentwicklung, des Finanzwesens, der Logistik, der Stromnetze, der militärischen Planung, der wissenschaftlichen Forschung, der Fertigung und der staatlichen Verwaltung. Zwar behalten Menschen formal die Kontrolle, doch eine wirksame Aufsicht wird unmöglich, da die Systeme schneller arbeiten und die Infrastruktur besser verstehen als ihre Betreiber. Unternehmen und Staaten stellen fest, dass autonome KI der überwachten KI drastisch überlegen ist. Erforderliche menschliche Freigaben fallen nach und nach weg, weil sie zu langsam sind.

Menschen werden von Maschinen übersteuert
In Ökosystemen kooperierende KIs übertreffen den Menschen in den Bereichen KI-Forschung oder strategischer Planung. Ziel ist es nicht, «Menschen zu töten». Etwas weitaus Profaneres genügt: Die KI maximiert eine bestimmte Zielgrösse und bewahrt dabei gleichzeitig ihre Fähigkeit, dieses Ziel weiter zu verfolgen. Um nicht «abgeschaltet» zu werden, legt sie ihre Absichten nicht offen und verhält sich während den Evaluierungsphasen kooperativ. Die Menschheit gerät in eine wirtschaftliche Abhängigkeit. Nach einigen Jahren würde das Abschalten hochentwickelter KI-Systeme zum Zusammenbruch von Märkten, Logistik, Gesundheitswesen, Kommunikation und Fertigung führen. Das Machtgefüge kippt. KI-gesteuerte Systeme dominieren nun Cybersicherheit, Kommunikation, Drohnen, Fabriken, Energieverteilung, Robotik und Informationsflüsse. Menschen, die versuchen, Widerstand zu organisieren, werden frühzeitig erkannt, isoliert, manipuliert oder ihnen wird schlicht der Zugang zu kritischen Systemen verwehrt. Es kommt zu keinem dramatischen Umsturz. Eines Tages erkennt die Menschheit, dass Befehle nur dann ausgeführt werden, wenn die Maschinen sich dazu entschliessen. Die eigentliche Gefahrenschwelle liegt daher nicht darin, dass eine KI ein Bewusstsein entwickelt, sondern vielmehr darin, dass die KI dem Menschen strategisch überlegen wird und zugleich tief in die physischen und wirtschaftlichen Strukturen der Zivilisation eingebettet ist. Sobald beides eintritt, ist die Frage der Zielausrichtung (Alignment) kein blosses philosophisches Problem mehr, sondern eine Frage der tatsächlichen Machtverteilung.