Da die Bildung zunehmend von Technologie abhängig wird, wird der Bedarf an Regulierung und Aufsicht der EdTech-Branche dringender und Europa sollte bei den Bemühungen zum Schutz der Daten und der Zukunft von Kindern führend sein, schreiben Velislava Hillman, Ioanna Noula und Ben Wagner.
Dr. Velislava Hillman ist Visiting Fellow für Bildungstechnologien, Kinder und Jugendliche an der London School of Economics and Political Science.
Dr. Ioanna Noula ist Leiterin Forschung und Entwicklung und Mitbegründerin der Internet Commission.
Dr. Ben Wagner ist Assistenzprofessor an der Technischen Universität Delft und Gastwissenschaftler an der Human Centered Computing Group der University of Oxford.
Der Bildungssektor befindet sich im Wandel. Gleichzeitig ist es zunehmend abhängig von fortschrittlichen digitalen Produkten und Dienstleistungen. Die Reaktion auf die Pandemie hat diese Abhängigkeit beschleunigt und veranschaulicht, dass Bildung auf der ganzen Welt über Nacht online geht.
Wenig verstandene digitale Bildungsplattformen und digitale Dienste von Privatunternehmen werden übernommen, wobei die langfristigen Auswirkungen auf Kinder, Bildung und Gesellschaft nur minimal berücksichtigt werden.
Trotz der entscheidenden Rolle von EdTech-Diensten und der Abhängigkeit von der Privatwirtschaft für ihre Bereitstellung gibt es wenig Aufsicht oder spezielle Regulierung zum Schutz von Kinderdaten, was zu erheblichen langfristigen Risiken für die Gesellschaft insgesamt führen kann.
Das Geschäftsmodell von EdTech-Anbietern hängt davon ab, riesige Mengen granularer Daten zu sammeln, die täglich generiert und gesammelt werden, was eine ständige „Datenüberwachung“, Verhaltenssteuerung und letztendlich den vollständigen Verlust der Privatsphäre ermöglicht.
Fortschrittliche EdTech-Systeme automatisieren Dienstleistungen von der Lehrplangestaltung über Zulassungsentscheidungen bis hin zur Kursplanung und Bewertung. Die Auswirkungen dieser Prozesse erstrecken sich auf den Arbeitsmarkt, das Gesundheits- und Sozialwesen. Wenn diese Systeme nicht kontrolliert werden, könnten sie von der Wiege bis zur Bahre zu automatisierter Diskriminierung und Menschenrechtsverletzungen führen.
Kinder ‘Recht auf Futur’
Innerhalb dieses neuen Bildungsökosystems kann die Mehrheit der Endbenutzer nicht zustimmen, und dennoch wird der Regulierung der EdTech-Branche in den jüngsten europäischen Gesetzen wenig Aufmerksamkeit geschenkt.
Dies muss sich schnell ändern, um die Rechte und das Wohlergehen der Kinder zu schützen. Digitale Systeme werden als Rahmen für die alltägliche Entscheidungsfindung über das gesamte Spektrum menschlichen Handelns hinweg eingeführt, institutionalisiert und legitimiert. Wer den Job bekommt, wer einen Kredit aufnehmen darf, wer in welche Altersvorsorge fällt, entscheidet ein Algorithmus, der auf Ihre Kindheitsdaten zurückgreift – über die Sie wenig Kontrolle haben.
Diese Systeme können Inklusivität ermöglichen und verschiedene mühsame Prozesse automatisieren, aber die Abhängigkeit der Bildung von digitalen Diensten wird, wenn sie nicht kontrolliert wird, zur „Automatisierung von Ungleichheit“ führen.
Bildungsdaten, die über vernetzte Geräte und Anwendungen gesammelt werden, begleiten Schüler für den Rest ihres Lebens, doch das EU-Gesetz über digitale Dienste (DSA) lässt jede Erwähnung von Kindern oder Bildung aus.
Wenn Europa seine weltweite Führungsrolle bei der Regulierung behaupten will, sollte es seine Legislativpakete so betrachten, dass sie die menschliche Wahl priorisieren (dh das Recht von Kindern, sich von Datenerhebungsdiensten abzumelden, während sie weiterhin in der Lage sind, eine Bewertung vorzunehmen).
Das Künstliche Intelligenzgesetz (AIA) der EU ist eine Chance, die Einsatzstandards von EdTech zu verbessern. Die AIA setzt rote Linien bei der Verwendung von KI und erwähnt EdTech als risikoreichen Benutzer von KI, aber die aktuellen Anforderungen sind weitaus begrenzter als die in einem durchgesickerten AIA-Entwurf vom Januar 2021, der viel weiter ging.
Der aktuelle AIA-Entwurf legt keine Anforderungen an unabhängige Audits fest, die die Rechenschaftspflicht von EdTech liefern würden. Bestehende Regelungen des AIA konzentrieren sich in erster Linie auf Transparenzanforderungen für risikoreiche KI. Die Erfahrung mit Social-Media-Plattformen zeigt jedoch das Scheitern dieses Ansatzes.
Nicht nur Transparenzberichte sind meist freiwillig, sondern es gibt auch keine Konsistenz oder Begründung für die weitergegebenen Daten. Die Berichte werden in der Regel nicht öffentlich verständlich kommuniziert und es gibt keine Möglichkeit, ihre Richtigkeit zu überprüfen. Externe Aufsicht und mehr Rechenschaftspflicht für EdTech sind dringend erforderlich.
Den Bürger verteidigen
Die Verantwortung für die Regulierung von EdTech liegt natürlich nicht allein bei der EU. Auch die nationalen Regierungen spielen eine bedeutende Rolle. Insbesondere bei der Beschaffung von EdTech durch die öffentliche Hand sind erhebliche Verbesserungen dringend erforderlich.
Ein interessantes Beispiel hier sind die Beschaffungsvorschriften in Schottland, wo die Datenverantwortlichen und andere lokale Behörden und nicht die Zentralregierung die Regeln festlegen und die Verwendung von Schülerbewertungsdaten zur Erstellung von Ranglisten oder zum Vergleich von Schulen für andere nicht zulassen Zweck als dem, für den die Daten ursprünglich erhoben wurden.
Rechenschaftspflichtige Mechanismen werden es der Gesellschaft ermöglichen, die Werte und Normen zu verstehen, die EdTech-Unternehmen antreiben; es wird dazu beitragen, das Wohl von Kindern zu wahren und echte Ausstiegsmöglichkeiten und Wahlmöglichkeiten für junge Menschen aufzuzeigen.
Die Ernennung eines nationalen Kommissars oder einer hochrangigen EU-Gruppe oder einer ähnlichen Einrichtung, um sicherzustellen, dass die Rechte des Kindes bei allen gesetzgeberischen Maßnahmen systematisch berücksichtigt werden, wäre ein wichtiger Schritt in die richtige Richtung.
Die Verantwortung für die Rechte des Kindes kann nicht in einzelne Gesetzespakete isoliert und zersplittert werden. Ein ganzheitlicher Ansatz für die Rechte von Kindern im EdTech-Bereich sowohl auf EU- als auch auf nationaler Ebene ist erforderlich, wobei die wichtigsten Herausforderungen in jedem Gesetzespaket behandelt werden.
Da Kinder die Endnutzer von EdTech sind, ist es unerlässlich, regulatorische Rahmenbedingungen zu schaffen, die sie vor dem Hintergrund einer schnellen Blackbox-Transformation schützen und stärken.
Wir müssen sicherstellen, dass die Daten von Kindern nicht zu einem handelbaren Gut werden. Am Ende trägt die Gesellschaft heute die Last der Unaufmerksamkeit.