Sächsischer Datenschützer gegen KI an Schulen

Dresden. Es sei ein „revolutionäres System“ und ein „völlig neuer Schritt in der Bildungslandschaft“: Künstliche Intelligenz soll künftig Sachsens Lehrer im Unterricht unterstützen. Gegenwärtig wird das „Intelligente Tutorielle System Area9 Rhapsode“ an sechs Schulen in Sachsen getestet, darunter an der Max-Militzer-Grundschule in Bautzen, der Oberschule Dohna, und dem Gerda-Taro-Gymnasium in Leipzig. Parallel läuft der Test in Mecklenburg-Vorpommern.
Der sächsische Datenschutzbeauftragte will das stoppen. In einem Schreiben an das Kultusministerium forderte er, den Testbetrieb der Software sofort einzustellen – von einer Anweisung werde nur abgesehen, weil das Schuljahr gerade zu Ende ist und nun Sommerferien sind.
Die besondere Lernplattform vermittelt nicht nur Inhalte und fragt Wissen ab, sie erkennt die unterschiedlichen Wissensstände der Lernenden genau. Es hilft ihnen auf individuellen Lernwegen, bis sie ein Thema wirklich verstanden haben.
Neben inhaltlichen Antworten geben die Nutzer Auskunft über ihre Selbstsicherheit von „Das habe ich verstanden“ über „Da bin ich unsicher“ bis zu „Ich habe keine Ahnung“. Gibt jemand eine falsche Antwort, kreuzt aber an, er sei sich sicher, erkennt das System eine unbewusste Inkompetenz – und umgekehrt. Das System kann mit dem Lernplan für alle Fächer, Schulformen und Altersstufen gefüttert werden.
Cloud-Dienst AWS aus den USA wird genutzt
Schon im März hatte sich der Datenschutzbeauftragte Andreas Schurig an das Ministerium gewandt und Bedenken geäußert – allerdings keine Antwort erhalten. Problematisch sei, dass das System einen US-amerikanischen Cloud-Dienst nutzt, Amazon AWS-Dienste. Dort werden die Lerndaten gespeichert. „Es erschließt sich uns nicht, warum wir die Daten auslagern“, sagt Sprecher Andreas Schneider. Sachsen habe unter anderem für die Lernplattform Lernsax auch Speicherkapazitäten.
Außerdem sind nach Ansicht des Datenschutzbeauftragten auch Lerndaten personenbezogene Daten – sie werden zusätzlich zu Benutzernamen, E-Mail und Passwort gespeichert. Diese Daten will der Softwarehersteller auch zur Verbesserung des Produktes nutzen.
Der Bewertungsprozess sei noch nicht abgeschlossen, sagt Andreas Schneider. Der Datenschutzbeauftragte werde abwarten, dass das Ministerium eine Begründung nachreicht. Sollte das nicht der Fall sein, kann der Datenschutzbeauftragte anordnen, dass die Nutzung der Software eingestellt wird.
Das Kultusministerium wird das Gespräch mit dem Datenschutzbeauftragten suchen, kündigte Sprecher Dirk Reelfs an. Der Testlauf von Area 9 in den Schulen sei mit dem Datenschutzbeauftragten abgestimmt gewesen und lief nur bis zum 22. Juli. Anschließend werde er ausgewertet. „Sollte es im Ergebnis des Testes zur Anwendung kommen, streben wir eine einvernehmliche Lösung mit dem Datenschutzbeauftragten an.“
Nach der Sommerpause soll der Kultusministerkonferenz ein Vorschlag zur Nutzung der Systeme gemacht werden. Eine Einführung der interaktiven Lernplattform sei schon nächstes Jahr denkbar, sagte Kultusminister Christian Piwarz (CDU) Anfang Juli bei einem Besuch der Leipziger Softwareentwickler „Area9 Lyceum“. Er könne sich vorstellen, dass der digitale Lernbegleiter zuerst in Kernfächern in höheren Klassen eingeführt und nach und nach in mehr Fachbereichen eingesetzt wird.