Ethik als Kompass für bewusste Datennutzung

Unsere Wertvorstellungen werden im digitalen Raum immer wieder aufs Neue herausgefordert. Bisher nicht vorhandene, technologie- und datengetriebene Handlungsoptionen werfen dabei ethische Fragestellungen auf. So kommen in Schulen beispielsweise zunehmend KI-gestützte Lernplattformen zum Einsatz, die individuelles Lernverhalten analysieren und personalisierte Inhalte vorschlagen. Wer soll aber entscheiden können, welche Inhalte als «passend» gelten? Inwieweit besteht dabei die Gefahr, die Vielfalt von Perspektiven einzuschränken und bestehende Ungleichheiten zu verstärken? Wie sieht es mit der Integrität der Lernenden aus, wenn sensible Daten gesammelt und bearbeitet werden? Genau diesen Fragen geht die digitale Ethik nach. Sie reflektiert, welche Handlungen im digitalen (Bildungs-)Raum als richtig oder falsch gelten sollten, und zeigt Wege auf, wie Technologie im Einklang mit menschlichen Werten und gesellschaftlichen Normen gestaltet und eingesetzt werden kann.

Ethik in der Bildung

Im Bildungswesen kommt der (digitalen) Ethik eine wichtige Rolle im Rahmen der Wertebildung zu. Diese ist zentraler Bestandteil der Schweizer Lehrpläne und geniesst auch in der globalen Bildungslandschaft breite Anerkennung (UNESCO 2020). Im Lehrplan 21 geht es laut den didaktischen Hinweisen zu Ethik, Religionen und Gemeinschaft unter anderem darum, «sich eigener Werte bewusst zu werden», «Kontroversität zu berücksichtigen», «Aktualitäten aufzugreifen» oder «Privatheit zu respektieren». Dazu gehören in einer digitalisierten Welt insbesondere auch kritische Reflexionen zu Fragen wie: Welche Daten soll ich wem preisgeben? Wer soll Zugriff haben auf Daten, die in einem Lernsystem erfasst werden? Inwiefern verstärken Algorithmen Vorurteile? Weiss ich, welche Daten über mich gesammelt werden?

Ziel ethischer Reflexion ist es dabei nicht, Technologie grundsätzlich in Frage zu stellen. Vielmehr soll sie helfen, digitale Werkzeuge verantwortungsvoll (im Abgleich mit eigenen und gesellschaftlichen Wertevorstellungen) einzusetzen oder zu gestalten.

Reflexionsräume schaffen

Damit dies gelingen kann, sind bewusste Reflexionsräume zu schaffen, sowohl bei den EdTechs als auch bei den verschiedenen Nutzenden von digitalen Applikationen und Dienstleistungen im Bildungsraum. In Unternehmen setzt man zu diesem Zweck sogenannte interne oder auch externe Ethik-Boards ein, in der Forschung ist es meist ein Ethikrat oder eine Ethikkommission. Darunter wird ein Gremium verstanden, das sich mit ethischen Fragen und möglichen moralischen Konflikten bei bestimmten Projekten, Technologien oder Entscheidungen beschäftigt. Es prüft, ob ein Vorhaben mit grundlegenden Werten wie Menschenwürde, Gerechtigkeit, Transparenz oder Datenschutz vereinbar ist – und gibt entsprechende Empfehlungen.

Ethische Reflexionen können aber auch in weniger formellen Strukturen angestossen werden. Wichtig ist, dass sie frühzeitig stattfinden wie Johan Rochel von ethix betont: «Heute testet die KI-Industrie ihre Produkte direkt an der breiten Öffentlichkeit. Wir müssen zu einer Logik übergehen, die Risikoanalysen bereits vor der Markteinführung vorsieht» (PME 2023; auf französisch).

Auch in der Bildung gilt es vermehrt Reflexionsräume zu schaffen respektive ethische Fragestellungen bewusst zu diskutieren, sowohl in der Schule (z.B. mit dem Wertekompass - das Spiel) als auch in der Verwaltung im Rahmen von Beschaffungen sowie bei der Einführung und Nutzung neuer digitaler Tools. Ausgangspunkt ist dabei ein gutes Grundverständnis von Datenflüssen.

Wertekompass - das Spiel

Das Brettspiel von SURF, der IT-Kooperative niederländischer Bildungs- und Forschungseinrichtungen hilft dabei Diskussionen zu Wertvorstellungen rund um Digitalisierungsthemen gezielt anzustossen und mit der Klasse auf unterhaltsame und zugängliche Weise durchzuführen.

Das Spiel ist in englischer Sprache verfügbar: The Value Compass - The Game. Discuss dilemmas of digitisation.

Zum Wertekompass von SURF: The Value Compass.

Ein Orientierungsrahmen statt eindeutiger Antworten

Wichtig scheint dabei immer, dass die Ethik keine abschliessenden Antworten liefern kann, sondern vielmehr einen Orientierungsrahmen bietet, insbesondere wenn es zu Normenkollisionen kommt. Dies ist bei der Datennutzung im Bildungskontext immer wieder der Fall, wenn es um den Konflikt zwischen dem Schutz der Privatsphäre einerseits (Datenschutz, informationelle Selbstbestimmung) und dem pädagogischen Interesse an individueller Förderung andererseits (Bildungsauftrag, Chancengleichheit) geht. Wie das Beispiel der Europäischen Kommission zur Nutzung von KI und Daten für Lehr- und Lernzwecke zeigt, helfen konkret Leitlinien als Wegweiser, um gemeinsam über Werte und Normen zu diskutieren, sie festzulegen und als Grundlage für Entscheidungen zu nutzen. Dies zeigt auch der Verhaltenskodex für den Betrieb von vertrauenswürdigen Datenräumen. Anhand von vier Grundprinzipien und dazugehörigen Umsetzungsmassnahmen konkretisiert dieser die Ausgestaltung von vertrauenswürdigen Datenräumen für die Bundesverwaltung.