«Puntiamo la nostra attenzione sulla qualità dei dati che rappresentano il cuore dell’IA.» È con queste parole che Toni Ritz, direttore di Educa, ha dato il via al convegno Educa24. Oltre 170 persone, tra cui rappresentanti del campo dell’insegnamento, della ricerca, dell’economia e dell’amministrazione hanno partecipato il 18 settembre 2024 al convegno Educa24 tenutosi a Berna. Oltre alle relazioni di esperte ed esperti, nel quadro di vari workshop è stato possibile sperimentare nella pratica l’influsso che i dati esercitano sui sistemi di IA. Le presentazioni delle esperte e degli esperti sono disponibili in tedesco e in francese (alcune anche nella lingua originale inglese).
Una definizione di intelligenza artificiale
Con il termine IA si definiscono sistemi e algoritmi che svolgono compiti per i quali è tipicamente necessaria l’intelligenza umana. Caratteristica principale di questi sistemi è la capacità di analizzare enormi quantità di dati, riconoscere dei modelli e fornire risultati sulla loro base. Tali tecnologie si sono sviluppate rapidamente e oggi sono presenti in numerosi ambiti della vita.
Fonte: Dossier Educa «L’IA nella formazione»
La qualità dei sistemi di IA
Diverse relatrici e diversi relatori hanno affrontato la tematica della qualità dei dati concentrandosi di conseguenza anche sulla qualità dei sistemi di IA. Un buon modello di IA è (possibilmente) preciso e completo. È capace di spiegare come è giunto ai suoi risultati ed è trasparente (interpretabilità). Il sistema di IA utilizza dati attuali ed è funzionale ed equo. L’IA inoltre non può mai esistere da sola. Le e gli utenti devono sempre inserire il sistema nell’ambiente circostante e nel contesto (formativo). La protezione dei dati svolge dunque un ruolo fondamentale. È necessario proteggere i dati sensibili, ad esempio attraverso l’anonimizzazione (matematica).
Nuove modalità di apprendimento
I sistemi di IA possono essere impiegati nel sistema formativo per scopi diversi: ad esempio per l’insegnamento personalizzato, per aumentare l’efficienza in ambito amministrativo, per fare nuove scoperte nell’ambito della ricerca e per ridurre il carico di lavoro del corpo insegnante. I modelli di IA possono essere d’aiuto nell’analisi dei processi di apprendimento oppure nella valutazione delle nozioni apprese. Le relatrici e i relatori di Educa24 hanno sottolineato il fatto che l’IA è da considerarsi uno strumento o un materiale didattico durante le lezioni, al pari di un libro o di una matita. Per questo dal punto di vista pedagogico occorre chiedersi se l’utilizzo della tecnologia IA sia il metodo migliore per supportare i processi di insegnamento e apprendimento.
La responsabilità è dell’essere umano
Ciononostante, l’impiego di sistemi di IA in ambito formativo solleva numerosi quesiti in termini etici, in particolare per quel che concerne le decisioni sulle ammissioni e le valutazioni. I modelli linguistici sono anche capaci di inventare fatti se questi ultimi sembrano essere plausibili. I sistemi di IA commerciabili non sono pedagogici e vanno quindi adeguati. Oltre a ciò, questi sistemi possono persino essere discriminatori e stigmatizzanti, a seconda del materiale utilizzato per allenarli e degli algoritmi su cui si basano. Le relatrici e i relatori hanno sottolineato che i sistemi di IA non devono avere la possibilità di prendere decisioni importanti autonomamente. È sempre l’essere umano ad avere la responsabilità. Per poterla esercitare è però necessario disporre non solo di competenze nell’ambito dell’intelligenza artificiale ma anche di conoscenze giuridiche.
Lidija Kralj, analista dell'educazione ed esperta di IA, demistifica l'intelligenza artificiale nel suo discorso d'apertura.
Pensiero critico come competenza chiave
È utile testare i sistemi di IA e ampliare così le proprie competenze. In questo modo da un lato si possono abbattere pregiudizi e paure, dall’altro il personale che lavora in ambito formativo così come le allieve e gli allievi possono riconoscere le possibilità e i limiti di questi sistemi. In conclusione: il pensiero critico resta una competenza chiave.
Dossier «L’IA nella formazione»
Educa24 continuerà a esistere anche dopo questa giornata. Pubblichiamo regolarmente interviste con le nostre relatrici e i nostri relatori sul nostro sito web, dove è anche consultabile il dossier «L’IA nella formazione» incentrato proprio su questo tema (il dossier è disponibile unicamente in tedesco e francese).