Imaginez que vous voulez acheter une maison. Vous avez déjà fait toutes les réflexions nécessaires, vous avez une solide assise financière, et vous vous rendez dans une banque pour contracter une hypothèque. Mais le personnel de banque vous répond qu’il ne peut malheureusement pas donner suite à votre demande. Le système externe qui est utilisé pour contrôler votre solvabilité atteste en effet que votre cote de crédit («credit score») n’est pas suffisante. Même si vous êtes en mesure de montrer, sur la base des données de la banque dont vous disposez, que vous bénéficiez en réalité d’une très bonne solvabilité, cette hypothèque ne vous sera pas accordée.

Un scénario de ce genre pourrait déjà se produire actuellement puisque des systèmes de prise de décision automatisée basés sur des données sont déjà utilisés dans certains secteurs économiques. En Allemagne, par exemple, la SCHUFA (Association de protection pour l’assurance générale de crédit) utilise déjà un système ADM («automated decision making») qui détermine la solvabilité des citoyennes et citoyens allemands. Ce qui démontre clairement qu’aujourd’hui déjà, les algorithmes ont une influence directe sur notre vie.

Changement de perspective au sein de l’espace numérique suisse de formation: les services numériques sont également de plus en plus utilisés dans le cadre de la complexité fédérale. Des applications d’apprentissage ainsi que des supports de cours et d’apprentissage génèrent et rassemblent des données sur l’enseignement et l’apprentissage dans des écoles, ainsi que sur les habitudes de comportement des élèves et du corps enseignant. En règle générale, ces données restent chez les prestataires. Sans tomber dans un alarmisme excessif, le fait qu’à un moment donné, dans un proche avenir, mon cursus de formation personnel dépendra de systèmes de prise de décision automatisés, ou qu’il sera influencé par ces derniers, peut parfaitement devenir une réalité.

Dans ce contexte toujours plus numérisé, et donc toujours plus basé sur des données, il ne faut pas seulement fixer des conditions-cadres organisationnelles, techniques et juridiques, mais aussi éthiques. Une première mesure à réaliser, déjà connue dans d’autres branches économiques, pourrait consister à définir des orientations éthiques fondamentales pour l’espace numérique suisse de formation et à les faire valoir à l’échelle nationale. Ces orientations éthiques fondamentales aideraient le système éducatif à utiliser les systèmes basés sur les données et l'utilisation des données en général de manière éthique. Cela inciterait le marché de la formation à développer des services et des systèmes éthiquement corrects.

Déterminer quelles orientations éthiques fondamentales doivent être obligatoirement respectées est un objectif qui doit faire partie d’un débat de grande ampleur à lancer au sein de l’espace numérique suisse de formation. Un débat qui devra impliquer également toutes les parties prenantes. C'est la seule façon de garantir la prise en compte de tous les besoins des multiples couches de ce paysage hétérogène de la formation. Nous avons déjà donné le coup d’envoi à ce débat en 2019 avec le rapport «Données dans l'éducation – Données pour l'éducation». Il est temps que nous le poursuivions!

Cet article est paru pour la première fois dans notre rapport annuel 2021.

Auteur

Articles associés

État des lieux juridique de l'IA dans l'espace de formation

Avec la diffusion accrue des systèmes d'IA dans le système de formation, de nombreuses questions juridiques surgissent. Les réponses à certaines des questions les plus urgentes sont fournies par un nouveau rapport que nous avons commandé.

Nouveau dossier Educa: l'IA dans la formation

Le développement rapide de l'intelligence artificielle (IA) met le système éducatif au défi. Outre des possibilités intéressantes, l'IA entraîne également des incertitudes et pose de nouvelles exigences au système. Nous nous penchons sur certaines de ces possibilités, incertitudes et exigences dans notre dossier «l'IA dans la formation».

Sécurité de l'information dans le système éducatif

Les chiffres actuels de l'Office fédéral de la cybersécurité montrent que la sécurité de l'information est plus importante que jamais. Les attaques se professionnalisent et leur nombre augmente. Notre dossier Educa «Sécurité de l'information dans le système éducatif» propose une introduction sur ce sujet et montre des possibilités d'amélioration.

Analyse juridique de la réutilisation des données

Un rapport que nous avons commandé analyse les possibilités de réutilisation des données personnelles dans le système éducatif. Le rapport montre que d'un point de vue juridique, le cas d'une «réutilisation» est plus rare que prévu. Si un tel cas se présente, il convient toutefois de clarifier certaines questions relatives à la protection des données.