Imaginez que vous voulez acheter une maison. Vous avez déjà fait toutes les réflexions nécessaires, vous avez une solide assise financière, et vous vous rendez dans une banque pour contracter une hypothèque. Mais le personnel de banque vous répond qu’il ne peut malheureusement pas donner suite à votre demande. Le système externe qui est utilisé pour contrôler votre solvabilité atteste en effet que votre cote de crédit («credit score») n’est pas suffisante. Même si vous êtes en mesure de montrer, sur la base des données de la banque dont vous disposez, que vous bénéficiez en réalité d’une très bonne solvabilité, cette hypothèque ne vous sera pas accordée.

Un scénario de ce genre pourrait déjà se produire actuellement puisque des systèmes de prise de décision automatisée basés sur des données sont déjà utilisés dans certains secteurs économiques. En Allemagne, par exemple, la SCHUFA (Association de protection pour l’assurance générale de crédit) utilise déjà un système ADM («automated decision making») qui détermine la solvabilité des citoyennes et citoyens allemands. Ce qui démontre clairement qu’aujourd’hui déjà, les algorithmes ont une influence directe sur notre vie.

Changement de perspective au sein de l’espace numérique suisse de formation: les services numériques sont également de plus en plus utilisés dans le cadre de la complexité fédérale. Des applications d’apprentissage ainsi que des supports de cours et d’apprentissage génèrent et rassemblent des données sur l’enseignement et l’apprentissage dans des écoles, ainsi que sur les habitudes de comportement des élèves et du corps enseignant. En règle générale, ces données restent chez les prestataires. Sans tomber dans un alarmisme excessif, le fait qu’à un moment donné, dans un proche avenir, mon cursus de formation personnel dépendra de systèmes de prise de décision automatisés, ou qu’il sera influencé par ces derniers, peut parfaitement devenir une réalité.

Dans ce contexte toujours plus numérisé, et donc toujours plus basé sur des données, il ne faut pas seulement fixer des conditions-cadres organisationnelles, techniques et juridiques, mais aussi éthiques. Une première mesure à réaliser, déjà connue dans d’autres branches économiques, pourrait consister à définir des orientations éthiques fondamentales pour l’espace numérique suisse de formation et à les faire valoir à l’échelle nationale. Ces orientations éthiques fondamentales aideraient le système éducatif à utiliser les systèmes basés sur les données et l'utilisation des données en général de manière éthique. Cela inciterait le marché de la formation à développer des services et des systèmes éthiquement corrects.

Déterminer quelles orientations éthiques fondamentales doivent être obligatoirement respectées est un objectif qui doit faire partie d’un débat de grande ampleur à lancer au sein de l’espace numérique suisse de formation. Un débat qui devra impliquer également toutes les parties prenantes. C'est la seule façon de garantir la prise en compte de tous les besoins des multiples couches de ce paysage hétérogène de la formation. Nous avons déjà donné le coup d’envoi à ce débat en 2019 avec le rapport «Données dans l'éducation – Données pour l'éducation». Il est temps que nous le poursuivions!

Cet article est paru pour la première fois dans notre rapport annuel 2021.

Auteur

Articles associés

1.7.2021

Les données sont une ressource centrale dans l'espace numérique de formation. La Confédération et les cantons nous ont chargés d'élaborer des principes de base afin que ces données puissent être utilisées dans un cadre digne de confiance, sûr et éthiquement approprié. L'Assemblée plénière de la CDIP et la direction du SEFRI ont formellement approuvé, le 24 juin, les projets majeurs.

5.4.2022

Que savons-nous de l'impact des médias numériques sur la formation des compétences? Qu'est-ce que nous ne savons pas? Que devrions-nous savoir? C'est à ces questions passionnantes que Benjamin Volland répond dans le premier épisode de notre série de podcasts audio sur les résultats du rapport «La numérisation dans l'éducation».

28.4.2022

À quoi pourrait ressembler à l'avenir l'architecture d'un échange de données sûr et responsable dans la formation professionnelle? Kevin Saner, analyste de systèmes informatiques chez Educa, présente sa vision d'une fédération des données pour la formation professionnelle et met en évidence le potentiel des nouvelles technologies.

31.5.2022

Les technologies numériques menacent-elles l'emploi? Dans le deuxième épisode du podcast audio sur les résultats du rapport «La numérisation dans l'éducation», Benjamin Volland s'intéresse aux effets de la numérisation sur le marché du travail et ses conséquences pour le système éducatif.