Frau Professor Mazumder, bereits im September 2023 haben Sie als Herausgeberin des Buchs «KI sagt, wir Menschen meinen…» zu einem «menschlichen Dialog» zu KI und mit KI, Digitalisierung & Co. angeregt. Was meinten Sie genau damit?
Meiner Co-Autorin Wilma Fasola und mir ging es darum, die Leserinnen und Leser mit auf die Reise zu nehmen in einer Zeit, in der Künstliche Intelligenz durch ChatGPT in aller Munde ist. «(An-)Fassbarmachen» und Aufklären erschienen uns wichtig, denn es gibt viele Fragen, Unklarheiten, teilweise falsches Verständnis sowie Ängste und Hoffnungen gleichermassen. Was bewirkt die Digitalisierung? Wie wirkt sich KI auf unser Leben aus? Was wird unsere Rolle als Mensch künftig sein und ähnliche fundamentale Themen werden angesprochen. Das Buch soll dazu anregen, sich zu diesen Entwicklungen Gedanken zu machen, denn es ist ein Dialog mit einer frühen Version von ChatGPT und menschlichen Autoren zu verschiedenen Themen. So geht es etwa um Thesen, ob und wie die KI uns Menschen dominieren wird. Es handelt sich dabei um eine Momentaufnahme ohne Anspruch auf wissenschaftliche Genauigkeit und Vollständigkeit.
Wo stehen wir heute, knapp ein Jahr später?
Das Thema KI ist definitiv in der Gesellschaft angekommen – nicht nur Individuen, sondern auch alle Organisationen beschäftigen sich damit. Mit Blick auf Wissen und Verständnis, Hoffnungen und Ängste, mit Blick auch auf Fragen wie beispielsweise: wo anfangen in einem Unternehmen, was sind Use Cases etc., oder auf gesellschaftliche Herausforderungen, wie die Zukunft der KI aussehen könnte und was das für die Menschen bedeuten kann, ist noch vieles offen. Und auch bei der Entscheidung, ob und ab wann wir eine Entwicklung ethisch und moralisch nicht mehr akzeptieren, haben wir heute noch grosse Fragezeichen. Aus meiner Sicht werden wir hierzu in der nahen Zukunft noch keine schlüssigen Antworten finden.
Eines Ihrer Themen in diesem Zusammenhang ist die Regulierung. Was und wie sollte aus Ihrer Sicht reguliert werden, wenn es um KI geht?
Die Herausforderung bei Regulierung ist stets, die Balance zu finden. Risiken sollen mitigiert, aber Chancen nicht verunmöglicht werden. Kosten und Nutzen sollen soweit möglich im Einklang stehen. Einfach gesagt, aber umso schwieriger umzusetzen, gerade bei einem so stark in Entwicklung befindlichen «Werkzeug» wie der KI. Es gilt meiner Meinung nach, grundlegende Leitplanken im Umgang mit KI festzuhalten, z. B.: wie gehen wir mit Themen wie Schaffung des perfekten Menschen, autonome Kriegsführung, aber auch Deep Fakes, Persönlichkeitsrechten oder Urheberschutz bzgl. KI um und viele weitere. Die Innovation darf nicht durch eine Regulierung, welche auf Vorrat normiert, abgeschnitten werden. Wir müssen ein Normengeflecht finden, welches mit den Entwicklungen der KI mitgehen kann. Und hier lauert schon der nächste Konflikt: Regulierung vs. Flexibilität.
Kann man schon etwas dazu sagen, was der «Artificial Intelligence Act» der EU für Auswirkungen hat – generell, aber speziell auch für uns hier in der Schweiz?
Der AI Act der EU (AIA) ist im Kern ein risikobasierter Ansatz, der anhand der potenziellen Fähigkeiten und Risiken verschiedene Auflagen und Verbote mit sich bringt. Verkürzt gesagt: Je höher das Risiko eines KI-Systems, desto strenger sind die regulatorischen Anforderungen. Die einen sehen das Gesetz als Regulierungsmonster, andere als Leuchtturm. Welche Auswirkungen genau der AIA haben wird, werden wir erst sehen, wenn eine ausreichende Anzahl Urteile gefällt wurde. Anbieter und Nutzer in der Schweiz unterliegen dem AIA, wenn sie ihre Systeme in der EU anbieten oder das Ergebnis ihrer Systeme in der EU verwendet wird. Hier gilt es, Vorsicht walten zu lassen, denn bereits ein Chatbot kann zu einem solchen Fall werden.
Sie sind Finanzexpertin. Wo sehen Sie Chancen und Risiken der KI für die hiesigen Banken und Versicherungen?
Ich möchte zum Thema des Referats an der ix.perience noch nicht zu viel verraten. Daher nur dies: Finanzinstitute nutzen – wie eine Vielzahl an Unternehmen unterschiedlichster Branchen – die KI in den Bereichen Automatisierung und Effizienzsteigerung.
Sie werden an der ix.perience über das Spannungsfeld von KI zwischen Nutzen und Normen sprechen. Was überwiegt – Euphorie oder Sorge?
Spannungsfelder oder Zielkonflikte sind Teil unser aller Leben. Wir möchten möglichst Sicherheit, aber auch hohe Privatsphäre, wir möchten die Möglichkeiten von KI, aber nicht die Risiken daraus usw. Ob Euphorie oder Sorge überwiegt, kann ich nicht schlüssig beantworten, und es ist auch keine Konstante. Gewisse Phasen pushen die Euphorie, die Hoffnung, was mit KI alles erreicht werden kann, in anderen wird eher die Angst geschürt. Und wahrscheinlich ist das gut so, denn nur Euphorie ohne Sorge oder nur Sorgen ohne Euphorie wären eine gefährliche Limitierung der Realität: KI ist ein Werkzeug wie jedes andere auch; es bringt Möglichkeiten und es hat Risiken.
