Immaginate di voler comperare una casa. Avete già fatto tutte le riflessioni necessarie, disponete di una solida base finanziaria e vi recate quindi in banca per accendere un'ipoteca. Il consulente vi risponde che purtroppo non può dar seguito alla vostra richiesta. Il sistema esterno, che viene utilizzato dalla banca per verificare la vostra affidabilità creditizia, mostra che non raggiungete un punteggio di credito sufficiente per accedere a un prestito. Anche se siete in grado di dimostrare, con i dati bancari alla mano, che avete effettivamente un ottimo rating, il mutuo non vi sarà concesso.
Uno scenario del genere potrebbe già verificarsi al giorno d'oggi, dal momento che dei sistemi decisionali automatizzati sono già in uso in alcuni rami economici. In Germania, ad esempio, la SCHUFA (Agenzia generale a tutela e protezione del credito) sta già utilizzando un sistema ADM (processo decisionale automatizzato) che determina l'affidabilità creditizia dei cittadini tedeschi. Questo dimostra chiaramente che, oggigiorno, gli algoritmi stanno già avendo un'influenza diretta sulla nostra vita.
Un cambio di prospettiva nell'ambito dello spazio formativo svizzero: i servizi digitali sono sempre più utilizzati nel quadro della complessità federalista. Le applicazioni per l'apprendimento, come pure gli strumenti digitali per l'insegnamento e l'apprendimento, nelle scuole generano e raccolgono dati sull'insegnamento e l'apprendimento, ma anche sulle abitudini degli allievi e del corpo insegnante. Di regola, questi dati rimangono presso i fornitori dei servizi. Senza cadere troppo in un eccessivo allarmismo, la situazione seguente potrebbe diventare realtà. Ossia, si può ipotizzare che, in futuro, il percorso formativo potrebbe dipendere o sarebbe influenzato da dei sistemi decisionali automatizzati.
In tale contesto sempre più digitalizzato, e dunque basato sui dati, non è sufficiente fissare delle condizioni quadro organizzative, tecniche e legali ma è necessario stabilirne di quelle etiche. Una prima misura da decidere, già in uso in altri rami economici, potrebbe consistere nel definire degli orientamenti etici fondamentali per lo spazio formativo digitale svizzero, che vengano applicati su scala nazionale. Tali orientamenti etici fondamentali aiuterebbero il sistema educativo a utilizzare eticamente i sistemi basati sui dati, e sull'utilizzo dei dati in generale. Ciò, indurrebbe il mercato a sviluppare dei servizi e dei sistemi etici validi.
Determinare quali orientamenti etici fondamentali devono venir rispettati obbligatoriamente, è un obiettivo che deve essere e deve diventare parte di un dibattito su larga scala nell'area dello spazio formativo digitale svizzero e che deve chiamare in causa tutte le parti coinvolte. È l'unico modo per assicurarsi che includa tutte le esigenze di questo paesaggio educativo vario ed eterogeneo. Abbiamo già dato il via a questo dibattito nel 2019 con il rapporto «Dati nella formazione – Dati per la formazione». È dunque ora di riprendere da dove l'abbiamo lasciato!
Questo articolo è stato pubblicato la prima volta sul nostro rapporto annuale 2021 (francese).