L'éthique comme boussole pour une utilisation consciente des données

Dans l'espace numérique, nos valeurs sont sans cesse remises en question. Des possibilités jusqu'ici inexistantes et guidées par la technologie et les données soulèvent des questions éthiques. Par exemple, les écoles utilisent de plus en plus de plateformes d'apprentissage basées sur l'IA, qui analysent le comportement d'apprentissage individuel et proposent des contenus personnalisés. Mais qui doit pouvoir décider quels contenus sont considérés comme «appropriés»? Dans quelle mesure cela risque-t-il de restreindre la diversité des perspectives et de renforcer les inégalités existantes? Qu'en est-il de l'intégrité des apprenantes et apprenants lorsque des données sensibles sont collectées et traitées? L'éthique numérique se penche précisément sur ces questions. Elle réfléchit aux actions qui devraient être considérées comme bonnes ou mauvaises dans l'espace numérique (de formation) et propose des moyens de concevoir et d'utiliser la technologie en accord avec les valeurs humaines et les normes sociales.

Éthique dans la formation

Dans le système éducatif, l'éthique (numérique) joue un rôle important dans le cadre de la formation des valeurs. Celle-ci est un élément central des plans d’études suisses et bénéficie également d'une large reconnaissance dans le paysage éducatif mondial (UNESCO 2020). Selon les indications didactiques du Lehrplan 21 sur l'éthique, les religions et la communauté, il s'agit entre autres de «prendre conscience de ses propres valeurs», de «tenir compte de la controverse», de «s'intéresser à l'actualité» ou de «respecter la sphère privée». Dans un monde numérisé, cela implique notamment des réflexions critiques sur des questions telles que: quelles données dois-je divulguer et à qui? Qui doit avoir accès aux données saisies dans un système d'apprentissage? Dans quelle mesure les algorithmes renforcent-ils les préjugés? Est-ce que je sais quelles données sont collectées à mon sujet?

L'objectif de la réflexion éthique n'est pas de remettre fondamentalement en question la technologie. Elle doit plutôt aider à utiliser ou à concevoir des outils numériques de manière responsable (en les confrontant à ses propres valeurs et à celles de la société).

Créer des espaces de réflexion

Pour y parvenir, il faut créer des espaces de réflexion conscients, aussi bien chez les EdTechs que chez les différents utilisateurs et utilisatrices d'applications et de services numériques dans l'espace de formation. Dans les entreprises, on met en place à cet effet des comités d'éthique internes ou externes; dans la recherche, il s'agit généralement d'un conseil ou d'une commission d'éthique. Il s'agit d'un organe qui se penche sur les questions éthiques et les éventuels conflits moraux liés à certains projets, technologies ou décisions. Il examine si un projet est compatible avec des valeurs fondamentales telles que la dignité humaine, la justice, la transparence ou la protection des données – et émet des recommandations en conséquence.

Mais les réflexions éthiques peuvent également être lancées dans des structures moins formelles. L'important est qu’elles aient lieu suffisamment tôt, comme le souligne Johan Rochel d'ethix: «Aujourd'hui, l'industrie de l'IA teste ses outils en direct sur le grand public. Nous devons basculer dans une logique d'analyse des risques avant l'arrivée sur le marché» (PME 2023).

Dans le domaine de la formation également, il convient de créer de plus en plus d'espaces de réflexion ou de discuter consciemment de questions éthiques, tant à l'école (par ex. avec la boussole des valeurs - le jeu) qu'au sein de l'administration dans le cadre d’acquisitions ainsi que lors de l'introduction et de l'utilisation de nouveaux outils numériques. Le point de départ est une bonne compréhension de base des flux de données.

Boussole des valeurs - le jeu

Le jeu de société de SURF, la coopérative informatique des établissements d'enseignement et de recherche néerlandais, permet de lancer de manière ciblée des discussions sur les valeurs autour des thèmes de la numérisation et de les mener avec la classe de manière amusante et accessible.

Le jeu est disponible en anglais: The Value Compass - The Game. Discuss dilemmas of digitisation.

Vers la boussole des valeurs de SURF: The Value Compass.

Un cadre d'orientation plutôt que des réponses claires

L'éthique ne peut pas fournir de réponses définitives, mais qu'elle offre plutôt un cadre d'orientation, en particulier lorsque des conflits de normes se produisent. C'est toujours le cas pour l'utilisation des données dans le contexte de la formation, lorsqu'il s'agit du conflit entre la protection de la sphère privée d'une part (protection des données, autodétermination informationnelle) et l'intérêt pédagogique de l'encouragement individuel d'autre part (mandat de formation, égalité des chances). Comme le montre l'exemple de la Commission européenne sur l'utilisation de l'IA et des données à des fins d'enseignement et d'apprentissage, des lignes directrices concrètes aident à montrer la voie, à discuter ensemble des valeurs et des normes, à les définir et à les utiliser comme base de décision. C'est ce que montre également le code de conduite pour l'exploitation d'espaces de données fiables. A l'aide de quatre principes de base et des mesures de mise en œuvre correspondantes, ce code concrétise la conception d'espaces de données fiables pour l'administration fédérale.