#411 – Demütige «Alte» im Murks-Umfeld

Wir sind alles digitale Analphabeten
Die Komplexität der digitalen Welt übersteigt unseren Horizont, das war schon vor der Einführung künstlicher Intelligenz KI so, schrieb Rachele De Caro (37), Autorin und Verlegerin, in ihrem Beitrag in der NZZ am Sonntag 9 März 2025. Die meisten von uns verstehen nur oberflächlich etwas, und die wenigen, die wirklich etwas verstehen, würden am liebsten das Weite suchen. So sind laut einer jährlich erhobenen IT-Studie auf StackOverflow, einer Plattform zum Austausch von Wissen, 80 Prozent der Entwickler mit ihrem Job unzufrieden. Das sollte uns aufhorchen lassen, benötigen wir doch in Zukunft eine regelrechte Heerschar an technikaffinen Expertinnen und Experten. Verantwortlich für die Unzufriedenheit sind gemäss der Studie insbesondere die technischen Schulden der Unternehmen. Ein Grossteil der Aufgaben, denen sich zum Beispiel Softwareentwickler täglich widmen müssen, ist das Ausmisten von Altlasten der Vorgänger. Sie sind sozusagen die digitale Müllabfuhr. Kein Wunder, vergeht ihnen die Lust am Programmieren. Die Unternehmen gehen den Weg des geringsten Widerstandes – wozu in perfekte Codes investieren, wenn es auch schneller und effizienter geht? Gut ist, dass KI viele dieser mühsamen Aufgaben in naher Zukunft erledigen kann – schlecht, dass das Wissen darüber dann in noch weniger Köpfen existiert.

Wissen bedeutet nicht Intelligenz
Egal, ob Text, Datenbank oder Modell – weiterhin unerlässlich sind fachkundige Menschen, die den Output kritisch prüfen und korrigieren. Eine erfolgreiche Digitalisierung fordert mehr als zuvor unsere zwischenmenschlichen und kommunikativen Fähigkeiten heraus. Unter dem Titel «Die letzte Prüfung der Menschheit: Forscher stellen KI die schwierigsten Fragen der Welt» beschreibt Anna Weber (33) in der NZZ vom 12. März 2025 wie Sam Altman, Elon Musk und Co. überzeugt sind, dass die Entwicklung einer allgemeinen künstlichen Intelligenz AKI (artificial general intelligence AGI) kurz bevorsteht, einer KI also, die genauso intelligent, flexibel und vielseitig ist wie ein Mensch – oder gar noch intelligenter. Eine AKI soll laut Altman einen Grossteil der ökonomisch wertvollen Arbeit besser erledigen können als Menschen. Doch so beeindruckend es ist, wenn die KI Prüfungsfragen auf Experten-Niveau beantworten kann: Die Punktzahl in «Humanity’s Last Exam» ist keineswegs ein Anhaltspunkt für die Intelligenz einer KI. Denn der Test fragt Wissen ab, nicht logisches Denken, und erst recht nicht Kreativität oder die Fähigkeit, neue Gedanken zu entwickeln. Der Umgang mit KI ist vor allem eine kreative und erst in zweiter Linie eine IT-Aufgabe. Wir «Alten» haben in den vergangenen fünf Jahrzehnten technologische Veränderungen miterlebt und auch mitgestaltet. Integriert in KI-Entwicklungsteams, liefern wir wertvolle Perspektiven zu den Auswirkungen des KI-Einsatzes und tragen dazu bei, verantwortungsvolle KI-Praktiken zu etablieren. Dank unserem differenzierten Urteilsvermögen sind wir in der Lage, KI-Ergebnisse zu bewerten um mögliche Systemfehler oder mangelhafte Überlegungen aufzuzeigen. Bei der Fehlererkennung als Folge von Halluzinationen ist der Mensch jeder Maschine noch deutlich voraus.

«Alte» als Kompass im aktuellen System
Eduard Kaeser (77), Physiker und promovierter Philosoph, schrieb im Gastkommentar «Murks happens» – warum wir immer weniger verstehen werden, was wir tun», in der NZZ vom 27. November 2019: Selten kommt das, was wir technisch anpacken, so heraus, wie wir es uns gedacht haben. Technologie, unseren Köpfen entsprungen, wächst uns über den Kopf – buchstäblich. Wir überschauen und durchschauen sie immer weniger, uns fehlt der Kompass für den Kurs ihrer Entwicklung. Wir «Alten» haben ein System geschaffen, das wir nicht mehr überblicken können. Immer mehr Menschen beteiligen sich dank neuen technologischen Möglichkeiten am vermeintlichen Fortschritt. Kaeser nennt es Akkretion, ein Zustand der durch das Hinzufügen von immer mehr Systemkomponenten und deren Verknüpfungen entsteht. Akkretion birgt ein ernsthaftes Problem. Wir kennen das aus unserem heimischen Do-it-yourself. Wir «bessern» den morschen Dachboden mit Latten, Platten, Streben aus, vernetzen die elektrischen Geräte mehr schlecht als recht mit einem Kabelsalat, dichten die sanitäre Anlage im Keller mit Draht, Klebeband und Zusatzrohren ab. Dabei handelt es sich um eine zusammengeflickte, behelfsmässige, temporäre, mitunter unnötig komplizierte Lösung eines technischen Defekts oder Problems, kurz, ein «Murks».

KI gegen den digitalen Murks
Daraus formuliert Kaeser das Murks-Prinzip: Von einem kritischen Komplexitätsgrad an arbeiten technische Systeme zwangsläufig im Murks-Modus. Für die «jungen Wilden» ist es meist unmöglich auf die «ursprüngliche» Variante zurückzugreifen, diese auseinanderzunehmen und von null auf zu revidieren und so kümmern sie sich darüber immer weniger. Das Flugzeug, das die Brüder Wright 1903 bauten, war ein Ausbund an Einfachheit, konstruiert aus einer geringen Zahl von Komponenten. Eine Boeing 747 weist etwa sechs Millionen Hardware-Komponenten auf. Je komplexer eine Software, desto «murksiger» wird sie. Schliesslich ist der Code nicht mehr entschlüsselbar, geschweige denn auf Fehler zu testen. Viel eher bauen wir deshalb auf funktionierenden Murks auf, und versuchen, ihn schrittweise zu verbessern. Dank KI beginnen die Maschinen nun zu lernen. Damit hat man ein vielversprechendes Instrument zur Hand, das Verknäuelungsproblem zu umgehen, das System zieht über einen statistischen Lernalgorithmus selber seine «Schlüsse». Das führt zum Paradox: Die Effizienz des Systems nimmt zu – das Verständnis nimmt ab. Es mutet fast an, als «verstünden» die KI-Systeme sich selber am besten.

Demut statt Besserwisserei
Komplexität und Murks-Prinzip stellen die zentrale Herausforderung der Technologien dieses Jahrhunderts dar. Und das heisst auch: Wir bekommen es immer mehr mit Zufall, Nichtvoraussagbarkeit und «Renitenz» der Systeme zu tun. Wir sollten freilich nicht einem Fatalismus verfallen, der die technischen Systeme als unbewältigbar hinnimmt. Vielmehr verlangen unsere Bewältigungsversuche nach einer fundamentalen Haltungsänderung. Eduard Kaeser nennt es die Einstellung einer demutvollen Vigilanz, in Anlehnung an den renommierten holländischen Algorithmendesigner Edsger Dijkstra (72), der den Begriff des «demutvollen Programmierers» prägte. Demut meint das Eingeständnis, künstliche Systeme nicht vollständig durchschauen zu können; Vigilanz meint das nicht erlahmende Bemühen, sie nach bestem Stand des Wissens zu verstehen und zu kontrollieren. Wir «Alten» müssen uns immerfort weiterbilden, um diesen Diskussionen folgen zu können. Nicht mittels Besserwisserei, sondern demütig versuchen, in Zusammenarbeit mit den «jungen Wilden», unsere Erfahrung aus gesunder Distanz nutzbar zu machen. Eduard Kaeser stellt fest: «Menschen sind eine erstaunliche Murks-Spezies. Und wir leben in einem Murks-Universum. Es expandiert stetig. An seinen Rändern lauern das Unbekannte und die Pannen. Das heisst, der Umfang der notorischen «unbekannten Unbekannten» wächst. Und dann haben wir ein Problem: Die künftigen Systeme werden wahrscheinlich nicht nur komplexer sein, als wir Menschen uns das jetzt denken, sondern komplexer, als wir uns das je denken können. Technik tendiert zur Transzendenz.»