L'etica come bussola per un utilizzo consapevole dei dati

I nostri valori vengono continuamente messi alla prova nello spazio digitale. Delle possibilità finora mai esistite, basate sulla tecnologia e sui dati, sollevano delle questioni etiche. Nelle scuole, ad esempio, vengono sempre più utilizzate piattaforme per l'apprendimento basate sull’IA che analizzano il comportamento di apprendimento individuale e suggeriscono contenuti personalizzati. Ma chi dovrebbe decidere quali contenuti sono «adeguati»? In che misura esiste il rischio di limitare la diversità delle prospettive e di rafforzare le disuguaglianze esistenti? Che ne è dell'integrità delle alunne e degli alunni quando vengono raccolti e trattati dati sensibili? Sono proprio queste domande che l'etica digitale affronta, riflettendo su quali azioni dovrebbero essere considerate giuste o sbagliate nello spazio digitale (formativo) e indicando come la tecnologia possa essere progettata e utilizzata in armonia con i valori umani e le norme sociali.

Etica nella formazione

Nel sistema formativo, l'etica (digitale) ha un ruolo importante nell'ambito della formazione dei valori. Quest’ultima è l’elemento costitutivo centrale del piano di studio svizzero e trova un ampio riconoscimento anche nel paesaggio formativo globale (UNESCO 2020). Secondo le indicazioni didattiche sull’etica, le religioni e la comunità del Lehrplan 21 (il piano di studio dei cantoni svizzero tedeschi), si tratta di «prendere coscienza dei propri valori», «tenere conto delle controversie», «affrontare le questioni attuali» o «rispettare la sfera privata». In un mondo digitalizzato ciò implica in modo particolare anche riflessioni critiche su delle domande come: quali dati devo divulgare e a chi? Chi deve avere l’accesso a dati registrati in un sistema di apprendimento? In che modo gli algoritmi rafforzano i pregiudizi? Conosco quali dati su di me vengono raccolti?

L’obiettivo di una riflessione etica non vuole mettere fondamentalmente in discussione la tecnologia. Al contrario, dovrebbe aiutare a impiegare o gestire gli strumenti digitali in modo responsabile, confrontandosi con i propri valori e quelli della società.

Creare degli spazi di riflessione

Per raggiungere questo obiettivo è necessario creare degli spazi di riflessione consapevoli, sia per le EdTech che per i diversi utenti delle applicazioni e dei servizi digitali nello spazio formativo. Nelle imprese sono impiegati per questo scopo dei cosiddetti comitati etici interni o anche esterni, nella ricerca si tratta generalmente di un consiglio o una commissione etica. Con ciò si intende un organo che si occupa di questioni etiche e di possibili conflitti morali legati a specifici progetti, tecnologie o decisioni. Viene verificato se un progetto è conciliabile con dei valori fondamentali come la dignità umana, la giustizia, la trasparenza o la protezione dei dati, offrendo le raccomandazioni adeguate.

Tuttavia le riflessioni etiche possono essere condotte anche in strutture meno formali. L’importante è che siano svolte per tempo, come ribadisce Johan Rochel di ethix: «Oggigiorno l’industria dell’IA testa i propri prodotti direttamente sul grande pubblico. Dobbiamo passare a una logica che preveda l’analisi dei rischi già prima dell’introduzione sul mercato» (PME 2023).

Anche nella formazione cresce il bisogno di creare degli spazi di riflessione per discutere delle rispettive questioni etiche consapevolmente, sia nella scuola (per esempio con la bussola dei valori - il gioco) come anche nell’amministrazione nell’ambito delle acquisizioni, delle introduzioni e dell’utilizzo di nuovi strumenti digitali. Il punto di partenza è una buona comprensione di base dei flussi di dati.

Un quadro di riferimento invece che risposte univoche

Ciò che risulta più importante è che l’etica non è in grado di dare risposte definitive, ma piuttosto di offrire un quadro di riferimento, soprattutto in caso di conflitto tra norme. Questo è sempre il caso per l’utilizzo dei dati nel contesto formativo, quando si tratta di un conflitto tra la protezione della sfera privata da un lato (protezione dei dati, autodeterminazione informativa) e l’interesse pedagogico per il sostegno individuale dall’altro (mandato dell’educazione, pari opportunità). Come viene mostrato dall’esempio della Commissione europea sull’uso dell’IA e dei dati nell’insegnamento e nell’apprendimento, delle linee direttive concrete come orientamento aiutano a discutere insieme e stabilire valori e norme da usare come base per le decisioni. Ciò è dimostrato anche dal Codice di condotta per la gestione di spazi di dati affidabili. Basandosi su quattro principi fondamentali e le relative misure di realizzazione, il codice di condotta concretizza la gestione di spazi dati affidabili per l’amministrazione federale.

Link complementari

• Values Lab: Wertebildung in der Schule. Institut für Bildungswissenschaften der Universität Basel (in tedesco)
• ethix (2020): Technologie für Kinder und Jugendliche. Welche ethischen Chancen und Risiken kommen beim Technologieeinsatz für Kinder und Jugendliche auf? #5 White Paper (in tedesco)
• Centre for Digital Responsibility (2023): Externes Ethik-Board für digitale Fragestellungen (in tedesco)
• Algo.Rules: Regeln für die Gestaltung Algorithmischer Systeme (in tedesco)