merken
PLUS

Wirtschaft

Maschinen brauchen einen moralischen Kompass

Aber welchen? Darüber diskutierten am Mittwoch in der Dresdner Frauenkirche Kanzlerin Merkel und internationale Forscher.

Angela Merkel diskutiert am Mittwoch in der Dresdner Frauenkirche über die Zukunft mit künstlicher Intelligenz.
Angela Merkel diskutiert am Mittwoch in der Dresdner Frauenkirche über die Zukunft mit künstlicher Intelligenz. © FILIP SINGER/EPA-EFE/Shutterstock

Robert Habeck hat sich von Twitter und Facebook verabschiedet, um nicht länger übereilte verbale Verletzungen auszuteilen. Michael Kretschmer lässt inzwischen bei seinen Terminen das Handy im Auto liegen, denn er hat mittlerweile gelernt, nicht auf Posts und Tweets zu reagieren, die keine Relevanz für ihn haben. 

Bundeskanzlerin Angela Merkel hat festgestellt, dass viele Menschen die Fähigkeit verlieren, Themen über einen langen Zeitraum zu verfolgen. Das habe sie an sich selbst beobachtet und das sei nicht gut, denn Prozesse im Leben dauerten ihre Zeit. Die Politiker schilderten auf der Konferenz „Morals & Machines“ am Mittwoch in Dresden, wie die sozialen Medien ihre Verhaltensweisen verändert haben. Und das ist nur ein Teil der neuen digitalen Welt. Wie wird sich unser Zusammenleben erst verändern, wenn Softwareprogramme standardmäßig neue Mitarbeiter auswählen, Pflegeroboter Kranke und ältere Menschen betreuen und Autos ohne Fahrer auf den Straßen unterwegs sind? Die neuen Technologien mittels künstlicher Intelligenz werfen viele Fragen auf.

Anzeige
Letzte Chance: Werden Sie Küchentester!
Letzte Chance: Werden Sie Küchentester!

Nutzen Sie diese Möglichkeit und sichern Sie sich bis zu 50% Rabatt auf Ihre neue Traumküche! Noch bis zum 30.5.2020 sucht XXL KÜCHEN ASS 28 Küchentester.

Die wichtigste ist laut Miriam Meckel: „Welche Werte brauchen wir, um eine faire Koexistenz von Menschen und Maschinen zu garantieren?“ Das wollte die Herausgeberin der Wirtschaftswoche und Initiatorin des journalistischen Projekts „Ada“ zur digitalen Transformation von Leben und Wirtschaft mit 450 Teilnehmern und Referenten in Dresden diskutieren. Als Veranstaltungsort wurde bewusst die Frauenkirche gewählt als ein Ort der Tradition, aber auch der Zusammenkunft – begründet auf Werten und Glauben, die die Welt besser machen sollen.

Es ging also um die großen philosophischen Fragen der Zukunft: Wie übernehmen wir die Verantwortung für technologische Prozesse, die wir selbst geschaffen haben? Was passiert, wenn Maschinen immer unabhängiger werden von menschlichen Interventionen? In der Tat wurden auf der fast zehnstündigen Konferenz in erster Linie Fragen gestellt. Denn die meisten Referenten – Philosophen, Psychologen, Rechtswissenschaftler – gaben zu, selbst noch keine Antworten zu haben. „In der gesellschaftlichen Debatte um Ethik und KI geht es derzeit erst einmal um die Fragen, die wir stellen müssen. Aber wer kontrolliert, welche Fragen gestellt werden sollen, darüber mache ich mir Sorgen“, betonte etwa die kanadische Philosophin und Bioethikerin Francoise Baylis von der Dalhousie Universität.

Eine drängende Frage ist zum Beispiel, nach welchen ethischen Prinzipien bei Interessenskonflikten zwischen Einzelnen und der Allgemeinheit entschieden werden soll. Professor Peter Singer von der Princeton-University führte dafür das beliebte Beispiel von autonomen Fahrzeugen in Dilemma-Situationen an. Sollte ein selbst fahrendes Auto, wenn es plötzlich Kinder auf der Straße erkennt, in einem riskanten Ausweichmanöver das Leben seiner Passagiere gefährden oder nicht? Laut Singer muss man davon ausgehen, dass die Autohersteller autonome Fahrzeuge im Interesse ihrer Kunden programmieren. Das würde bei diesem Beispiel bedeuten, das Auto würde nicht ausweichen. Singer fordert deshalb, die Programmierung der Autos zu regulieren, damit im Interesse der Allgemeinheit entschieden wird und nicht im Sinne des Eigeninteresses.

„Daten sind Macht. Und mit künstlicher Intelligenz werden Machtinteressen verfolgt. Deshalb brauchen wir eine Machttheorie“, forderte Eröffnungsrednerin Danah Boyd, Forscherin bei Microsoft und Gründerin des Instituts „Data & Society“. KI sei eine Infrastruktur, die nicht gewartet wird, aber angegriffen werden könnte durch manipulierte Datensätze. „Und wie gehen wir mit den daraus resultierenden Beschädigungen um?“, fragte Boyd. 

Als Beispiel führte sie den Terroranschlag in Neuseeland an. Der Attentäter hatte sein Video, in dem er die Tat ankündigte, ins Internet gestellt und es wurde nicht entdeckt, weil er seine Waffe mit Klebeband umwickelt hatte. So konnte der Youtube-Algorithmus das Gewehr nicht als solches erkennen. Er hatte das System ausgetrickst. „Wir brauchen eine neue Idee für eine sozioethische Sicherheit, wie wir uns vor solchen Manipulationen schützen können“, so Boyd.

Urs Gasser, Juraprofessor an der Harvard University und Mitglied des Digitalrats der Bundesregierung, entwarf drei Szenarien, wie sich das Recht im digitalen Zeitalter entwickeln könnte. Das Recht könnte im ersten funktionalen Ansatz zu einem perfekten Überwachungs- und Steuerungssystem werden, wenn Gesetze als Kontrollinstanzen mithilfe von KI-Überwachungsmethoden durchgesetzt werden. Was das bedeutet, lässt sich schon in China beobachten. 

Das zweite Szenario ist ein kommerzialisiertes, unternehmensinternes Recht, wenn etwa Facebook seinen eigenen „Supreme Court“ hat, der darüber urteilt, welche Meinungsäußerungen zulässig sind und welche nicht. Das dritte Szenario ist die Idee einer Neuschreibung des Rechts. Hier soll das Beste aus der Rechtstradition wie etwa die Menschenrechte oder die Verpflichtung zu sozialer Verantwortung die roten Linien einziehen für technologische Lösungen, die die Gesellschaft nicht akzeptieren will.

 Auf dieser Grundlage könnte man definieren, welche Vorschriften notwendig sind, um KI-Technologien zuzulassen und welche nicht. Gasser ist Anhänger der letzten Rechtsversion, also einer Neucodierung des Rechts, befürchtet allerdings, „dass wir eine bipolare Welt aus den Ansätzen 1 und 2 haben werden.“ Der Schweizer Jurist leitet das Berkman Center für Internet & Society, eines der führenden Internetforschungszentren weltweit.

Solange der Mensch die Hoheit über die Algorithmen besitzt, hat Bundeskanzlerin Angela Merkel keine Bedenken gegen künstliche Intelligenz. Sie gibt zu, dass die Bundesregierung bei der Festlegung ethischer Maßstäbe für selbst lernende Algorithmen noch blank sei. „Diese sind noch nicht bis zum Ende durchdacht“, so Merkel am Mittwoch in Dresden. 

Doch ein eigenes KI-Gesetz will sie nicht verabschieden. Ziel müsse eine europäische Regulierung sein. Allerdings seien die Deutschen schneller dabei, ethische Leitplanken einzuziehen, als überhaupt mit Daten erst einmal neue Geschäftsmodelle aufzusetzen, betont die Regierungschefin. Die Plattformwirtschaft sei in Deutschland „sparsam ausgeprägt“, die Neugier auf Daten verhalten, die Bereitschaft im Mittelstand zur Neuordnung und Analyse von Daten für neue Dienstleistungen gering, beobachtet Merkel nach eigenen Worten bei ihren Terminen. Dieses kulturelle Problem sei die größte Herausforderung für den digitalen Wandel.

Um das zu ändern, hat die Bundesregierung im vergangenen November eine KI-Strategie beschlossen, deren Umsetzung sie mit drei Milliarden Euro bis 2025 fördern will. Das sei viel zu wenig, so die Kritik vieler Digitalexperten angesichts der Milliarden Euro, die Chinesen und Amerikaner jedes Jahr investierten. 

Merkel verteidigte die Strategie in Dresden. Wichtiger als die Frage, ob es zu wenig Geld ist, sei die Entscheidung, „investieren wir das Geld richtig, auf welche Zukunftsfelder konzentrieren wir uns“, sagte sie und nannte als Schwerpunkte Anwendungen im Maschinenbau, die Gesundheitsforschung und KI-Lösungen für den Umweltbereich. Der Bund will 100 neue KI-Lehrstühle aufbauen. Sie sei sich der Konkurrenz mit den USA und China bewusst, aber Deutschland habe keine schlechten Chancen, diese Lehrstühle auch zu besetzen. 

Die Einnahmen aus der 5G-Auktion sollen in die Förderung des Netzausbaus in den ländlichen Regionen fließen. Merkel stellte klar, Aufgabe der Politik sei es, gute Rahmenbedingungen zu schaffen, der eigentliche Treiber bei der Entwicklung von KI müsste jedoch aus der Privatwirtschaft kommen.

Weiterführende Artikel

Das sagt die Kanzlerin in Dresden zu Rezo

Das sagt die Kanzlerin in Dresden zu Rezo

Angela Merkel spricht über das politische Video der letzten Wochen. Eigentlich aber geht es um ein anderes, großes Thema: künstliche Intelligenz.

Michael Kretschmer, der vor der Kanzlerin in der Frauenkirche den sächsischen KI-Standort vorstellte, ermunterte das Publikum: „Machen Sie ihr Mut, dass die Bundesregierung mehr in künstliche Intelligenz und Informatikwissenschaften investiert.“ 

Mehr zum Thema Wirtschaft