Imaginez que vous voulez acheter une maison. Vous avez déjà fait toutes les réflexions nécessaires, vous avez une solide assise financière, et vous vous rendez dans une banque pour contracter une hypothèque. Mais le personnel de banque vous répond qu’il ne peut malheureusement pas donner suite à votre demande. Le système externe qui est utilisé pour contrôler votre solvabilité atteste en effet que votre cote de crédit («credit score») n’est pas suffisante. Même si vous êtes en mesure de montrer, sur la base des données de la banque dont vous disposez, que vous bénéficiez en réalité d’une très bonne solvabilité, cette hypothèque ne vous sera pas accordée.

Un scénario de ce genre pourrait déjà se produire actuellement puisque des systèmes de prise de décision automatisée basés sur des données sont déjà utilisés dans certains secteurs économiques. En Allemagne, par exemple, la SCHUFA (Association de protection pour l’assurance générale de crédit) utilise déjà un système ADM («automated decision making») qui détermine la solvabilité des citoyennes et citoyens allemands. Ce qui démontre clairement qu’aujourd’hui déjà, les algorithmes ont une influence directe sur notre vie.

Changement de perspective au sein de l’espace numérique suisse de formation: les services numériques sont également de plus en plus utilisés dans le cadre de la complexité fédérale. Des applications d’apprentissage ainsi que des supports de cours et d’apprentissage génèrent et rassemblent des données sur l’enseignement et l’apprentissage dans des écoles, ainsi que sur les habitudes de comportement des élèves et du corps enseignant. En règle générale, ces données restent chez les prestataires. Sans tomber dans un alarmisme excessif, le fait qu’à un moment donné, dans un proche avenir, mon cursus de formation personnel dépendra de systèmes de prise de décision automatisés, ou qu’il sera influencé par ces derniers, peut parfaitement devenir une réalité.

Dans ce contexte toujours plus numérisé, et donc toujours plus basé sur des données, il ne faut pas seulement fixer des conditions-cadres organisationnelles, techniques et juridiques, mais aussi éthiques. Une première mesure à réaliser, déjà connue dans d’autres branches économiques, pourrait consister à définir des orientations éthiques fondamentales pour l’espace numérique suisse de formation et à les faire valoir à l’échelle nationale. Ces orientations éthiques fondamentales aideraient le système éducatif à utiliser les systèmes basés sur les données et l'utilisation des données en général de manière éthique. Cela inciterait le marché de la formation à développer des services et des systèmes éthiquement corrects.

Déterminer quelles orientations éthiques fondamentales doivent être obligatoirement respectées est un objectif qui doit faire partie d’un débat de grande ampleur à lancer au sein de l’espace numérique suisse de formation. Un débat qui devra impliquer également toutes les parties prenantes. C'est la seule façon de garantir la prise en compte de tous les besoins des multiples couches de ce paysage hétérogène de la formation. Nous avons déjà donné le coup d’envoi à ce débat en 2019 avec le rapport «Données dans l'éducation – Données pour l'éducation». Il est temps que nous le poursuivions!

Cet article est paru pour la première fois dans notre rapport annuel 2021.

Auteur

Articles associés

La collaboration avec des projets d'utilisation des données nous permet d'éclairer l'écosystème des «données de l'éducation» à l'aide de cas concrets issus de la pratique et de tester des solutions à la croisée des différents groupes d'intérêts. Les expériences faites jusqu'à présent le montrent: malgré toute l'hétérogénéité, les mêmes questions préoccupent.

Le projet IDENTI du canton de Lucerne s'intéresse à l'identité numérique des élèves et met en lumière les conditions-cadres des moyens d'enseignement numériques ainsi que des applications. Karin Weber et Reto Buchmann, qui assument la codirection du projet, ont esquissé pour nous les premières solutions aux défis identifiés.

Les écoles traitent, enregistrent et gèrent de nombreuses données (personnelles) sensibles. Notre nouveau dossier «École conforme à la protection des données» aide les écoles à gérer les données personnelles à l'aide d'outils pratiques. La confiance dans les écoles est ainsi renforcée et la protection des données améliorée. 

Notre nouvelle série de podcasts est consacrée aux données dans l'espace numérique de formation. Le premier épisode de cette série répond aux questions suivantes: que sont les flux de données, pourquoi sont-ils importants et que pouvons-nous en apprendre?