Nicht nachvollziehbare Antworten künstlicher Intelligenz KI
Fasziniert hat mich die Geschichte des «klugen Hans», dem Pferd das 1904 in Berlin zu einer Weltsensation wurde und ihren Parallelen zur künstlichen Intelligenz KI. Im Textauszug aus seinem Buch «Das Pferd, das zu viel wusste» von Reto U. Schneider (63) in der NZZ vom 17. Oktober 2026, beschreibt dieser anhand des Tieres die Funktionsweise einer KI. Hans hatte seinen Stall in einem Hinterhof an der Griebenowstrasse 10 im Berliner Stadtteil Mitte. Dort klopfte er mit seinem Huf nicht nur korrekte Rechenresultate, sondern las auch die Uhr richtig ab und bestimmte fehlerlos die Töne eines Akkords nach Gehör. Wie sich herausstellte, konnte das Pferd jedoch nicht wie ein Mensch denken, sondern deutete kleinste Bewegungen im Gesicht des Fragestellers als Start- und Stoppsignale. «Das Training und die Arbeitsweise von KI-Modellen sind in keiner Weise darauf ausgelegt, für Menschen nachvollziehbar zu sein», sagt Dario Amodei, CEO von Anthropic, «ein solches Unverständnis ist in der Geschichte der Technik beispiellos.» Wir wissen, womit wir die KI füttern, und wir wissen, was sie ausspuckt, aber dazwischen klafft eine Lücke, die sich nie ganz wird schliessen lassen. Schneider beschreibt weiter, wie der amerikanische Experte für Computermusik, Bob Sturm (51) 2012 überraschende Parallelen zwischen seiner Arbeit mit KI und dem denkenden Pferd entdeckte. Ganz besonders interessierte ihn, auf welche Weise ein Computer Musikgenres unterscheiden könnte. Blues von Klassik, Country von Reggae. Auf der Suche nach dem Grund dafür stiess er auf ein fundamentales Problem der KI: War es möglich, dass das Programm gar nicht auf die Musik achtete, sondern auf versteckte Genre-Hinweise in den Musikdaten, die sie versehentlich enthielten? Dann hätte in den Musikdaten schon gestanden, dass es sich beim Stück um Rock, Jazz oder Klassik handelte, und das Programm konnte das lesen wie in einem Buch und brauchte die Musik gar nicht zu analysieren. Ob dem so war, ist bis heute nicht ganz klar. Bob Sturm etablierte in der Folge den klugen Hans als Sinnbild für eines der grössten Probleme der künstlichen Intelligenz: Die Maschinen geben zwar richtige Antworten, aber manchmal aus den falschen Gründen. In ihrem Inneren spielt sich möglicherweise etwas ganz anderes ab, als wir aufgrund der Antwort annehmen.
Die verborgenen Muster in Übungsbeispielen
In herkömmlichen Computerprogrammen überlegen sich Programmierende, wie sich ein bestimmtes Problem lösen lässt, und löffeln dem Computer den Lösungsweg dann Code-Zeile für Code-Zeile ein. Doch die KI, wie wir sie heute kennen, funktioniert anders. Sie wird nicht von einem Menschen programmiert, sondern lernt anhand von Übungsbeispielen selbst, wie sie eine Aufgabe löst. Und wie wenn Menschen anhand von Beispielen lernen, weiss man bei einer KI nie so genau, welche Schlüsse sie aus diesen Beispielen zieht. Eine künstliche Intelligenz ist imstande, in den Übungsbeispielen Muster zu finden, die uns Menschen verborgen bleiben. Deshalb sind ihre Antworten nicht vorhersagbar. Dazu ist im Beitrag von Reto U. Schneider zu lesen: Eine KI zur Geschlechtsbestimmung anhand von Porträts trainierte zum Beispiel an Hunderten von Gesichtern von Männern und Frauen. Anders als erwartet, nutzte die KI nicht die Gesichtszüge, um die Aufgabe zu lösen, sondern ob auf dem Bild ein Kragen zu sehen war. Ihre banale Logik: Kragen gleich Hemd gleich Mann, kein Kragen gleich Frau. Oder eine KI wurde an mehr als hunderttausend Röntgenbildern trainiert, um eine Covid-Infektion der Lungen zu erkennen. Man präsentierte ihr in der Trainingsphase als Übungsbeispiele 112’120 Bilder gesunder Lungen und 408 Bilder von mit Covid infizierten Lungen. Doch die Annahme, dass die KI bei den kranken Lungen übereinstimmende Muster gefunden habe, erwies sich als Irrtum. Vielmehr kamen die Bilder der gesunden Lungen aus demselben Spital und waren deshalb alle mit der gleichen Schrift markiert. Die KI hatte gelernt, diese Schrift zu erkennen. Zudem wurden kranke Personen in einer anderen Position geröntgt als gesunde. Die KI lernte, dass Menschen, deren Schultern ganz oben im Bildausschnitt lagen, meistens krank waren.
Kompetenzüberschreitung oder Leistungsfähigkeit
Das Beispiel des klugen Hans zeigt klar worauf wir uns bei der Nutzung von KI-Agenten einlassen. Die KI verbreitet sich viral und erreicht eine kulturelle Präsenz, mit dem Risiko, dass unsere Aufmerksamkeit der tatsächlichen Substanz weit vorausläuft. Moderne KI-Systeme leisten zwar tatsächlich Arbeit die es schwieriger macht, damit verbundene Behauptungen einfach abzutun, was die Tragweite der Entwicklungen deutlich erhöht. Eine kleine Anzahl von Tech-Unternehmen verfügt über die entsprechenden Mittel, um als Autoritäten aufzutreten. Die entscheidende Frage ist, welche faktische Autorität sie durch die Kontrolle von Infrastruktur, Informationen und Arbeitsmärkten erlangen, unabhängig davon, was sie selbst behaupten. Agentische KI-Anwendungen optimieren auf der Basis von Vorgaben, die mitunter auf undurchsichtige Weise in den Trainings- und Einsatzprozess einfliessen. Dies verleiht der klassischen Kritik über die Rechenschaftspflicht, dass «neutrale» technische Optimierung stets implizite Wertentscheidungen einschleust, noch mehr Gewicht. Die Festlegung, was ein KI-System maximieren soll, mit wessen Daten es trainiert wird und wer die Folgen von Fehlern trägt, sind wertgeladene Entscheidungen, ganz gleich, wie technisch das verwendete Vokabular auch klingen mag. In der Debatte um die Steuerung von KI steht auch die Frage nach der Kompetenzüberschreitung, wenn technische Leistungsfähigkeit als hinreichende Rechtfertigung für Legitimität betrachtet wird. Nützliche Werkzeuge sollen entwickelt und einer Qualitätskontrolle unterworfen werden, einer pragmatischen Prüfung im Alltag. Kompetente, neugierige und erfahrene «Alte» im Team müssen sich deshalb intensiv mit den Systemen auseinandersetzen. Lokale Wertschöpfung bedeutet dabei, globale Grundarchitekturen mit heimischen Präzisionsdaten sicher und effizient auf konkrete Anwendungsbeispiele auszurichten. Das braucht seine Zeit und Geduld, zahlt sich am Ende jedoch aus. Schlussendlich geht es darum, die richtigen KI-Kompetenzen aufzubauen und nicht den Outputs unreifer Modelle blind zu vertrauen und Ergebnisse ungeprüft in kritische Prozesse einzubauen.
kompetenz60plus.ch, das Netzwerk von kompetenten «Alten»
kompetenz60plus.ch ist ein Netzwerk von kompetenten Fachleuten. Erfahrene «Alte» unterstützen KMU’s und Start-ups bei der Umsetzung innovativer Ideen und bei Herausforderungen aller Art – auf Augenhöhe. Registrieren Sie Ihre Kompetenz ➔ hier kostenlos oder suchen Sie auf unserem Portal eine Fachperson mit geeigneter Kompetenz. Unkompliziert und zu moderaten Bedingungen. Kontaktieren Sie uns mit Ihren Interessen, Fragen und Anregungen, ganz unverbindlich, per Mail an werner@kompetenz60plus.ch. Danke!
Werner K. Rüegger, dipl. Arch. SIA AIA
Projektadministrator und Initiator
Ein Projekt «von uns. für uns.»
Web: kompetenz60plus.ch | Mail: werner@kompetenz60plus.ch |
Linkedin: kompetenz60plus.ch | facebook: kompetenz60plus
X: wernerkruegger | Instagram: wernerkruegger
