merken
PLUS

Wirtschaft

Angela Merkel heute Abend in der Frauenkirche

Die Bundeskanzlerin diskutiert in Dresden mit Experten über den richtigen Umgang mit künstlicher Intelligenz. Warum das dringend nötig ist.

Bundeskanzlerin Angela Merkel ist am Mittwoch zu Besuch in Dresden.
Bundeskanzlerin Angela Merkel ist am Mittwoch zu Besuch in Dresden. © Fotos: dpa/Robert Michael/Bernd von Jutrczenka;

Miriam Meckel und ihr Ada-Team sind am Mittwoch Veranstalter der Konferenz „Morals & Machines“ in der Dresdner Frauenkirche. Sie diskutiert unter anderem mit Bundeskanzlerin Angela Merkel und dem Harvard-Professor Urs Gasser darüber, was künstliche Intelligenz mit den Menschen macht und welche Regeln aufgestellt werden müssen, um intelligente Maschinen zu managen.

Hier schreibt die Organisatorin Miriam Meckel, warum es diese Regeln braucht:

"Technologie ist immer nur so gut wie die, die sie nutzen – oder doch so schlecht, wie jene, die sie programmieren? Das ist keine theoretische Frage, sondern eine, die längst unseren Alltag durchdringt, ohne dass die meisten von uns sich je darüber Gedanken machen würden. Besonders deutlich wurde dies am Beispiel der Video-Plattform Youtube. Gleich zweimal landete sie in den Schlagzeilen: Zum einen mit der Meldung, wonach die Plattform es in Deutschland bei Kindern und Jugendlichen zum Leitmedium geschafft hat. 

Laut einer Studie nutzen 86 Prozent der 12- bis 19-Jährigen den Videodienst. Besonders beliebt: Erklärvideos, die ergänzend zum Unterricht genutzt werden. Da möchte man den Kindern und Jugendlichen gleich ein lautes „Bravo“ zurufen. Wozu warten, bis die Digitalisierung die Klassenzimmer erreicht, wenn die Zukunft längst zu Hause angekommen ist.

Miriam Meckel ist Publizistin und Direktorin am Institut für Medien- und Kommunikationsmanagement der Universität St. Gallen.
Miriam Meckel ist Publizistin und Direktorin am Institut für Medien- und Kommunikationsmanagement der Universität St. Gallen. © imago stock&people

Zum anderen war da ein Bericht der New York Times über Youtube. Er erregte hierzulande weniger Aufmerksamkeit. Der Artikel illustrierte das Spannungsfeld, in dem Technologie, allen voran algorithmische, immer wirkt, jedoch schärfer: Demnach haben Forscher des Berkman Klein Center for Internet and Society an der Universität Harvard festgestellt, dass der Empfehlungs-Algorithmus von Youtube Kinder sexualisiert. 

In Tausenden von Experimenten stellten die Wissenschaftler fest, dass an sich harmlose Familienvideos auf Youtube, etwa von planschenden Kindern im Sommer, in den Sog der Empfehlungsmaschinerie geraten können, bis sie bei jenen Nutzern vermehrt aufschlagen, die sich davor Sex-Clips angesehen hatten. So sei ein ganzer Katalog an Videos entstanden, von dem die Experten sagen, Kinder würden darin mithilfe der algorithmischen User-Führung automatisch in einen sexuellen Kontext gesetzt. Die Videos landeten dabei nicht nur bei Pädophilen, sondern generell bei Menschen, die sich für Sex auf der Plattform interessierten. 

Das Phänomen ist in der Netzwirtschaft auch als „Kaninchenbau-Effekt“ bekannt: Haben die Youtube-Algorithmen erst mal eine Vorliebe bei den Betrachtenden erkannt, schlagen sie immer „extremere“ Videos zu diesem Thema vor. So landen Nutzer, die sich etwa für Fahrradrennen interessieren, irgendwann bei Videos von immer dramatischeren Kollisionen bei solchen Rennen. Und wer sich für nackte Haut interessiert, wird irgendwann zu Videos mit badenden Fünfjährigen geleitet. Youtube hat ein KI-System programmiert, das konstant versucht, weiterzulernen, welche Videos die Menschen am Bildschirm halten. Sie sollen in immer tiefere Abzweigungen des Kaninchenbaus gelockt werden, so wie sich einst Alice, hinter dem weißen Kaninchen laufend, immer tiefer ins Wunderland verlor. Mit dem Unterschied, dass es sich hier um ein Horrorland handelt, das von Clicks und damit Werbung lebt.

Youtube entfernte einige der Videos nach dem Bericht der NYT. Den Computeringenieuren und -ingenieurinnen in Mountain View möchte man dennoch laut zurufen, dass ohne Moral in den Maschinen der gesellschaftlich-technologische Zusammenhalt nicht mehr lange funktionieren wird. Dabei ist es letztlich egal, aus wessen Perspektive man auf das Problem blickt. Man darf nur beim großen Ganzen die Details nicht vergessen."

Mehr zum Thema Wirtschaft