Schlagwort: #Verantwortung

Künstliche Intelligenz KI und die Macht der dunklen Bereiche des Lebens
Der Beitrag von Dr. Iseult Gillespie (30), Schriftstellerin und Produzentin in TED-Ed • Februar 2017 (4:41), mit dem Titel «Everything you need to know to read Frankenstein», ist eine frühe Erzählung zur künstlichen Intelligenz KI und die Ungewissheit über das Ergebnis. Als Mary und Percy Shelley im Haus des britischen Poeten Lord George Gordon Byron (1788-1824), der Villa Diodati hoch über Cologny, am Lac Léman logierten, stellte dieser seinen literarischen Weggefährtinnen zum Zeitvertreib eine Aufgabe: Wer kann die schauerlichste Geistergeschichte schreiben? Das brachte die 18-jährige Mary auf eine Idee. In den nächsten Monaten erfand sie die Geschichte von Frankenstein. Das Buch zeichnet Dr. Victor Frankensteins vergebliches Streben nach, Leben zu schaffen und zu erhalten. Er konstruiert sein Monster Stück für Stück aus toter Materie und elektrisiert es zu einem Wesen mit Bewusstsein. Doch nach Beendigung des Experiments flieht er voller Entsetzen vor dem Ergebnis. Mary Wollstonecraft Shelley (1797-1851) war eine bekannte Romantikerin und nutzte mythische Bezüge, um die Reinheit der antiken Welt im Kontrast zur Moderne aufzuzeigen und betrachtete die Wissenschaft mit Argwohn. Für Shelly war «Frankenstein» eine der ersten Warnungen vor künstlicher Intelligenz, ein Horror aus dem Labor. Basierend auf ihrem persönlichen Trauma, kontrastiert sie im Roman «Frankenstein oder der moderne Prometheus» (1818), eine Bildwelt von Licht und Dunkel, einer Macht radikaler Ideen, die dunklen Bereiche des Lebens.

KI und das Monster von Dr. Frankenstein
In einer Zeit, in der KI unsere Arbeit und Freizeit beeinflusst, hilft uns Mary Shelleys Roman «Frankenstein», über die unerwarteten Folgen von Innovation nachzudenken, schreibt Sara Camilla Ibrahim (40+) in ihrem Artikel vom 14. Januar 2026 in SwissInfo online. Mit dem Titel «Frankensteins Monster: Was uns Mary Shelleys «Schweizer Kreatur» über KI lehrt» vergleicht sie Aspekte der Entwicklung künstlicher Intelligenz inhaltlich mit dem weltberühmten Roman. Eine aus Teilen menschlicher und tierischer Leichen zusammengesetzte Kreatur erwacht zum Leben – sehr zum Erstaunen und Ekel von Dr. Victor Frankenstein, ein Moment der sein Leben verändern wird. Es ist die Geschichte, in der die technologische Erfindung der menschlichen Kontrolle entgleitet. Die Kreatur flieht, lernt sprechen und rächt sich schliesslich an ihrem von Schuldgefühlen geplagten Schöpfer. Frankenstein ist seit über zwei Jahrhunderten das Spiegelbild der Ängste im Zusammenhang mit der Moderne und kulturellen Veränderungen, schreibt Ibrahim. Es mag deshalb verlockend sein, die Parabel von Frankenstein mit der künstlichen Intelligenz KI zu vergleichen. Die Ähnlichkeiten sind offensichtlich: Die Kreatur ist ein künstliches Wesen, das nach eigenem Willen handelt. Ihr Schöpfer ist ein selbstbewusster und ehrgeiziger Wissenschafter. Die Kreatur ist aus menschlichen Teilen zusammengesetzt, ebenso wie KI-Modelle anhand bestehender menschlicher Texte trainiert werden.

Wer ist verantwortlich: der Schöpfer oder das Geschöpf?
Ein zentrales Thema in Shelleys Roman ist die Verantwortung. Das Geschöpf von Victor Frankenstein ist anfangs harmlos. Es handelt in guter Absicht und wird erst gewalttätig, als es von seinem Schöpfer abgelehnt und von den Menschen angegriffen wird, denen es begegnet. Der Roman wirft die Frage auf, wer für die Handlungen des Geschöpfes verantwortlich ist: der Schöpfer, die Gesellschaft oder das Geschöpf selbst? Nachdem die Kreatur mehrere Verbrechen begangen hat, wendet sich Frankenstein an einen Richter in Genf, um Gerechtigkeit zu erlangen. Der Richter ist von der Erzählung zwar erschüttert, erklärt sich jedoch für machtlos: Er kann nichts tun, um eine Kreatur vor Gericht zu bringen, die «über Kräfte zu verfügen scheint, die alle meine Mittel wirkungslos machen». Eine Situation, die dem aktuellen rechtlichen Status grosser Sprachmodelle (LLM) sehr ähnlich ist. «Wenn Sie es mit einem nicht-menschlichen Wesen wie einem Chatbot zu tun haben und der Chatbot Ihnen Schaden zufügt, wer hat Ihnen dann Schaden zugefügt? Der Chatbot? Das Unternehmen, das ihn entwickelt hat? Sie selbst? Das sind sehr aktuelle Fragen», sagt Sarah Marsh (45+), Professorin für Englisch an der Seton Hill University in den USA. Aufgeschlossene, neugierige und kompetente «Alte» als Sparringspartner im Team mit jungen Entwicklern helfen auf Grund ihrer Erfahrung bei der Einordnung solcher Gefahren.

Die unbeabsichtigten Folgen der Technologie
«Wir Wissenschafter lösen oft Probleme, ohne über die Auswirkungen nachzudenken. Dieser Roman bietet uns die Möglichkeit, die unbeabsichtigten Folgen wissenschaftlicher Handlungen zu untersuchen», sagt Prof Andy Bell (50+), Leiter der Abteilung für Forschung und Innovation an der Universität Sheffield im Vereinigten Königreich. Die Entwicklung der KI schreitet so schnell voran, dass unbeabsichtigte Folgen unvermeidlich sind. Unternehmen wie OpenAI bemühen sich, die zahlreichen unvorhergesehenen Probleme anzugehen. Die Macht und Allgegenwärtigkeit dieser Technologie weckt Befürchtungen, dass sie uns letztendlich schaden könnte, indem sie beispielsweise Arbeitsplätze vernichtet, mit Rechenzentren ökologische Schäden verursacht oder apokalyptische Szenarien im Zusammenhang mit KI-gesteuerten Waffen realistisch macht. Daraus zu schliessen, dass die Technologie nicht weiter verfolgt werden soll, ist unrealistisch und kontraproduktiv.