Imaginez que vous voulez acheter une maison. Vous avez déjà fait toutes les réflexions nécessaires, vous avez une solide assise financière, et vous vous rendez dans une banque pour contracter une hypothèque. Mais le personnel de banque vous répond qu’il ne peut malheureusement pas donner suite à votre demande. Le système externe qui est utilisé pour contrôler votre solvabilité atteste en effet que votre cote de crédit («credit score») n’est pas suffisante. Même si vous êtes en mesure de montrer, sur la base des données de la banque dont vous disposez, que vous bénéficiez en réalité d’une très bonne solvabilité, cette hypothèque ne vous sera pas accordée.

Un scénario de ce genre pourrait déjà se produire actuellement puisque des systèmes de prise de décision automatisée basés sur des données sont déjà utilisés dans certains secteurs économiques. En Allemagne, par exemple, la SCHUFA (Association de protection pour l’assurance générale de crédit) utilise déjà un système ADM («automated decision making») qui détermine la solvabilité des citoyennes et citoyens allemands. Ce qui démontre clairement qu’aujourd’hui déjà, les algorithmes ont une influence directe sur notre vie.

Changement de perspective au sein de l’espace numérique suisse de formation: les services numériques sont également de plus en plus utilisés dans le cadre de la complexité fédérale. Des applications d’apprentissage ainsi que des supports de cours et d’apprentissage génèrent et rassemblent des données sur l’enseignement et l’apprentissage dans des écoles, ainsi que sur les habitudes de comportement des élèves et du corps enseignant. En règle générale, ces données restent chez les prestataires. Sans tomber dans un alarmisme excessif, le fait qu’à un moment donné, dans un proche avenir, mon cursus de formation personnel dépendra de systèmes de prise de décision automatisés, ou qu’il sera influencé par ces derniers, peut parfaitement devenir une réalité.

Dans ce contexte toujours plus numérisé, et donc toujours plus basé sur des données, il ne faut pas seulement fixer des conditions-cadres organisationnelles, techniques et juridiques, mais aussi éthiques. Une première mesure à réaliser, déjà connue dans d’autres branches économiques, pourrait consister à définir des orientations éthiques fondamentales pour l’espace numérique suisse de formation et à les faire valoir à l’échelle nationale. Ces orientations éthiques fondamentales aideraient le système éducatif à utiliser les systèmes basés sur les données et l'utilisation des données en général de manière éthique. Cela inciterait le marché de la formation à développer des services et des systèmes éthiquement corrects.

Déterminer quelles orientations éthiques fondamentales doivent être obligatoirement respectées est un objectif qui doit faire partie d’un débat de grande ampleur à lancer au sein de l’espace numérique suisse de formation. Un débat qui devra impliquer également toutes les parties prenantes. C'est la seule façon de garantir la prise en compte de tous les besoins des multiples couches de ce paysage hétérogène de la formation. Nous avons déjà donné le coup d’envoi à ce débat en 2019 avec le rapport «Données dans l'éducation – Données pour l'éducation». Il est temps que nous le poursuivions!

Cet article est paru pour la première fois dans notre rapport annuel 2021.

Auteur

Articles associés

Gestion des moyens d'enseignement sous l'angle de la protection des données

Dans le cadre du programme d'utilisation des données, nous avons examiné, en collaboration avec le canton d'Argovie, la gestion des moyens d'enseignement sous l'angle de la protection des données. Les résultats de ce projet sont désormais disponibles. Il en ressort des solutions tant aux niveaux cantonal qu'intercantonal.

Réutilisation des données: exigences légales et approches conformes à la loi

Dans le cinquième épisode de la série de podcasts «Les données dans l'espace numérique de formation», nous abordons le thème de la réutilisation des données. La publication d'un rapport mandaté par Educa sur le potentiel de la réutilisation des données dans le système éducatif suisse en est l'occasion.

Amélioration de la protection des données grâce à de nouveaux outils

Les écoles traitent, enregistrent et gèrent de nombreuses données (personnelles) sensibles. Notre nouveau dossier «École conforme à la protection des données» aide les écoles à gérer les données personnelles à l'aide d'outils pratiques. La confiance dans les écoles est ainsi renforcée et la protection des données améliorée. 

Obtenir des connaissances à partir de données auparavant inaccessibles

La professeure Christine Choirat, cheffe de la section Science des données et IA de l'Office fédéral de la statistique, répond à nos questions sur le potentiel de la réutilisation des données, les défis particuliers et les solutions possibles.