Realistische Einschätzung von KI-Systemen nötig

Welche Potenziale und Herausforderungen sehen Sie beim Einsatz von KI in Schulen?

Wie immer, wenn wir Technik verwenden, bringt auch der Einsatz von KI Vor- wie Nachteile mit sich. Im Idealfall übernimmt KI zeitaufwändige Routineaufgaben und unterstützt Lehrpersonen dabei, auf die individuellen Bedürfnisse ihrer Schülerinnen und Schüler einzugehen. Beispielsweise können adaptive Lernsysteme eine sinnvolle Ergänzung sein, um Bildungsangebote auf einzelne Lernende zuzuschneiden.

Ein Risiko besteht darin, dass man die Technik als alleiniges Allheilmittel ansieht und sie damit überschätzt. Wer sich darauf verlässt, dass KI der bessere, weil objektivere und effizientere Lehrer ist, muss erkennen, dass auch Algorithmen Fehler machen und dass Bildung auch menschliche Beziehungsarbeit erfordert. Schlimmer noch: Wer nicht merkt, dass schwächere Schülerinnen und Schüler weniger vom Einsatz von KI profitieren, schreibt ihnen das Versagen allein zu. Schliesslich hat man die neuesten Werkzeuge eingesetzt und sie haben es trotzdem nicht geschafft! Und manchmal treffen die Systeme unbemerkt Entscheidungen, die bestimmte Bevölkerungsgruppen benachteiligen («algorithmic bias»). So zum Beispiel, als im Jahr 2020 in Grossbritannien ein Algorithmus zur Bewertung von Schulabschlussprüfungen eingesetzt wurde. Wer aus einer strukturschwachen Gegend kam, wurde im Schnitt schlechter bewertet. Die KI hatte hier gelernt, dass an den Schulen in diesen Gegenden tatsächlich die schlechteren Abschlussnoten erreicht wurden. Dies benachteiligt aber die gute Schülerin, die an einer dieser Schulen ihren Abschluss macht. So werden durch die KI also unerwünschte Ungleichheitseffekte des Bildungssystems verstärkt, anstatt sie abzumildern.

Insgesamt muss man zu einer realistischen Einschätzung der Potenziale, Grenzen und Risiken der technischen Systeme kommen. Das erfordert Lehrpersonen, die eine grundlegende Kompetenz im Umgang mit datenbasierten Systemen wie KI-Tools mitbringen. Ich denke, dass dies zukünftig eine wichtige Schlüsselkompetenz (nicht nur) von Lehrpersonen wird.

Sie arbeiteten an den «Ethischen Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke» der Europäischen Union, die 2022 veröffentlicht wurden, mit. Was sind für Sie die zentralsten Punkte dieser Leitlinien?

Eine Gruppe von 25 Expertinnen und Experten aus verschiedenen europäischen Ländern und aus unterschiedlichen Disziplinen hat sich zunächst einmal darüber verständigt, was zentrale Prinzipien beim Umgang mit KI in der Bildung sein sollen. Schnell war klar, dass Menschen weiterhin in der Lage sein müssen, informierte Entscheidungen auch gegen die KI treffen zu können («Vorrang menschlichen Handelns»). Der Einsatz von KI-Systemen muss zudem so erfolgen, dass Menschen ungeachtet ihrer Herkunft, ihres Geschlechts oder anderer Merkmale gerecht behandelt werden («Fairness»). Und über den Einsatz von KI darf nicht vergessen werden, dass menschliche Beziehungen zwischen Lehrenden und Lernenden wichtiger Bestandteil des Lernprozesses sind («Menschlichkeit»). Um all dies zu gewährleisten, braucht es aus meiner Sicht aber vor allem eines: Transparenz.

Zum einen muss allen Beteiligten klar sein, dass in einer bestimmten Situation eine KI Verwendung findet. Und zum anderen sollten die Entwicklerinnen und Entwickler offenlegen, mit welchen Datensätzen und Modellen sie arbeiten. Nur so kann ich als Lehrperson oder Schulleitung einschätzen, ob ein System ethischen Standards gerecht wird.

Was hat sich gemäss Ihrer Einschätzung seither verändert?

Als wir die Leitlinien in den Jahren 2021-2022 entwickelt haben, waren Sprachmodelle wie ChatGPT noch kein grosses Thema. Dementsprechend finden sich im Dokument keine konkreten Hinweise dazu – also etwa wie man gewährleisten kann, dass Schülerinnen und Schüler auch in Zeiten von ChatGPT sinnvolle Aufgaben erhalten, welche sie zum Lernen motivieren. Die oben genannten Prinzipien gelten jedoch weiterhin, auch für den Einsatz von Sprachmodellen. Auch hier muss es fair zugehen und es ist notwendig, dass wir die Ausgaben der Sprachmodelle kritisch hinterfragen können. Dies gilt gerade in einer Zeit, in der durch ChatGPT & Co. KI-Systeme in der Breite in die Schulen Einzug gehalten haben.