Vom Recht, Software zu reparieren
Künstliche Intelligenz KI hat überhaupt nichts mit der Generationenfrage zu tun. Die Technologie wird das Leben für uns alle verändern, was mich seit Monaten fasziniert. Meiner Meinung nach, handelt es sich dabei um die grösste Errungenschaft seit der Dampfmaschine. Deshalb lohnt sich die Überlegung, wie und wo wir diese Entwicklung aktiv mitgestalten können. Wie bei Konsumgütern üblich, erlischt die Haftung von Herstellern, sobald wir diese selbst reparieren. Doch wie verhält sich dieser Haftungsausschluss bei Softwareprodukten? Damit die KI ihr volles Potenzial entfalten kann, müssen auch Laien zu ihrer Entwicklung beitragen, sagt Rumman Chowdhury (44), CEO und Mitbegründerin von Humane Intelligence. Im TED Talk vom April 2024 (9:48) erläutert sie, wie die Right-to-Repair-Bewegung (Recht auf Reparatur) für Unterhaltungselektronik ein vielversprechendes Modell für einen Weg in die Zukunft bietet, bei dem wir alle Probleme melden, Updates installieren oder sogar KI-Technologien neu trainieren können. Obwohl vieles nach heutiger Auslegung der Gesetze illegal ist, sollten wir als Konsument:innen das Recht haben, Geräte die sich in unserem Besitz befinden zu reparieren, auch Software. Rumman Chowdhury findet deshalb, dass das Recht auf Wiedergutmachung auch auf künstliche Intelligenz ausgeweitet werden muss. Denn, obwohl fast jede Woche umwerfende Innovation im Bereich der KI publiziert werden, nimmt das Vertrauen der Öffentlichkeit tatsächlich ab. Eine aktuelle Pew-Umfrage hat ergeben, dass mehr Amerikaner:innen besorgt sind, als von der Technologie begeistert.
Der Mensch als Nebensache
Als Sozialwissenschafterin und KI-Entwicklerin ist Chowdhury frustriert über die weit verbreitete Meinung, dass KI den Menschen mehr schaden als nützen würde. Als Technologieoptimistin, glaubt sie, dass die künstliche Intelligenz etwas Gutes bewirken kann und hat darüber mit Hunderten von Menschen gesprochen. Architekten und Wissenschafter, Journalisten, Fotografen und Ärzte antworten dabei dasselbe: Die Menschen fühlen sich wie eine Nebensache. Sie alle wissen, dass ihre Daten oft ohne ihre Erlaubnis gesammelt werden, um diese hochentwickelten Systeme zu erstellen. Sie wissen auch, dass sich niemand die Mühe gemacht hat, sie zu fragen, wie das System aufgebaut sein soll, und sie haben sicherlich keine Ahnung, wohin sie sich wenden sollen, wenn etwas schief geht. Wir besitzen KI-Systeme vielleicht nicht, aber sie dominieren langsam unser Leben. Wir brauchen eine bessere Rückkopplungsschleife zwischen den Menschen, die diese Systeme erstellen, und den Menschen, die befähigt sind, uns zu sagen, wie diese KI-Systeme in unserer Welt interagieren sollen.
«Alte» mit Geschichtsbewusstsein als Experten bei Red-Teaming
Ein Schritt in diese Richtung ist ein Prozess namens Red-Teaming. Red-Teaming ist eine Praxis, die in den 1970er Jahren ursprünglich beim Militär eingeführt wurde und in der Cybersicherheit eingesetzt wird. Bei einer traditionellen Red-Teaming-Übung werden externe Expert:innen beigezogen, die in ein System legal eindringen, um unsere Abwehrmassnahmen zu testen und damit herauszufinden, wo etwas schiefgehen wird und wie wir dies beheben können. So hat das Team von Chowdhury beispielsweise vor nicht allzu langer Zeit ein KI-System gesehen, das versucht hat Vielfalt zu schaffen, indem es historisch ungenaue Fotos zeigte. Alle von uns mit einem Grundverständnis der westlichen Geschichte hätten sofort einwenden können, dass weder die Gründerväter der USA, noch die Soldaten der Nazizeit von schwarzer Hautfarbe gewesen sind. Unsere Erfahrung und Weisheit qualifiziert auch uns «Alte» als Experten bei solchen Prozessen.
Proaktive KI in der Entwicklung
In Zusammenarbeit mit Architekt:innen fragte das Team von Rumman Chowdhury beispielsweise, ob die KI in ihrem Beruf zu Arbeitslosigkeit führen werde. Könnten sie sich ein KI-System vorstellen, das in der Lage wäre, die Spezifikationen eines modernen Kunstmuseums zu entwerfen? Natürlich nicht, denn Architekt:innen zeichnen nicht nur Gebäude. Sie müssen Physik und Materialwissenschaften verstehen. Sie müssen Bauvorschriften kennen, während sie etwas erschaffen, das Emotionen hervorruft. Deshalb brauchen sie ein KI-System, das mit ihnen interagiert, das ihnen Feedback gibt, vielleicht proaktiv Entwurfsempfehlungen unterbreitet. Quasi ein Co-Pilot im Entwicklungsprozess. Zwar sind die heutigen KI-Systeme noch nicht ganz so weit. Aber das sind technische Probleme, denn die Menschen welche diese KI bauen, sind unglaublich schlau und werden das alles in ein paar Jahren lösen. Daneben muss man solchen Systemen vertrauen können, denn bei falschen Entscheidungen steht zu viel auf dem Spiel. Auch wir «Alten» müssen bei deren Aufbau unsere Verantwortung wahrnehmen.
Umschulung von Mitarbeitenden und KI-Systemen dank Diagnostik
Die nächste Welle künstlicher Intelligenzsysteme, die sogenannte agentenbasierte KI, wird zum Wendepunkt, ob wir die menschliche Handlungsfähigkeit behalten oder nicht. Ob KI-Systeme unsere Entscheidungen für uns treffen oder nicht. Doch KI-Agenten können und werden nicht existieren, solange wir kein echtes Recht auf Reparatur haben. Welche Fachperson würde einem KI-System Arbeitsentscheidungen anvertrauen, wenn sich dieses nicht wie Mitarbeitende umschulen liesse? Ein Recht auf Reparatur könnte deshalb etwa so aussehen: Auf einem Diagnostikboard entwerfen wir selbst grundlegende Tests und wenn etwas nicht stimmt, wird das dem KI-Unternehmen gemeldet, das wiederum eine Rückmeldung sendet, wenn der Fehler behoben ist. Oder wir könnten mit Dritten, wie ethischen Hacker:innen zusammenarbeiten, welche wie heute üblich, die Patches zum herunterladen und zum verwenden für unsere Systeme erstellen. Wir können auch lernen, unsere eigenen Systeme zu programmieren und zu optimieren. Indem wir Menschen in den Entwicklungsprozess einbeziehen, finden wir heraus wie und wo wir unsere Systeme verbessern können. Für eine verantwortungsvolle KI müssen Unternehmen sicherstellen, dass die Menschen der KI vertrauen. Deshalb muss die Frage nach den Werkzeugen auch uns Nutzer:innen beinhalten, denn die Technologie kann das nicht alleine schaffen, dafür braucht es die Zusammenarbeit mit uns Menschen.
kompetenz60plus.ch, das Netzwerk von kompetenten «Alten»
kompetenz60plus.ch ist ein Netzwerk von kompetenten Fachleuten. Erfahrene «Alte» unterstützen KMU’s und Start-ups bei der Umsetzung innovativer Ideen und bei Herausforderungen aller Art – auf Augenhöhe. Registrieren Sie Ihre Kompetenz ➔ hier kostenlos oder suchen Sie auf unserem Portal eine Fachperson mit geeigneter Kompetenz. Unkompliziert und zu moderaten Bedingungen. Kontaktieren Sie uns mit Ihren Interessen, Fragen und Anregungen, ganz unverbindlich, per Mail an werner@kompetenz60plus.ch. Danke!
Werner K. Rüegger, dipl. Arch. SIA AIA
Projektadministrator und Initiator
Ein Projekt «von uns. für uns.»
Web: kompetenz60plus.ch | Mail: werner@kompetenz60plus.ch |
Linkedin: kompetenz60plus.ch | facebook: kompetenz60plus
X: wernerkruegger | Instagram: wernerkruegger
