Intelligenza artificiale a scuola: tra responsabilità legale e alfabetizzazione digitale

L’utilizzo dell’intelligenza artificiale, ed in particolare di quella generativa (GenAI), sta profondamente trasformando la società e modificando molti aspetti della nostra vita quotidiana: dal modo in cui cerchiamo informazioni a quello in cui impariamo o lavoriamo. Ciò pone nuove sfide sia sul piano giuridico che su quello educativo. Infatti, se da un lato un recente caso di giurisprudenza americana offre spunti importanti sul tema della responsabilità, dall’altro lato le istituzioni europee spingono sempre più per un’evoluzione dell’alfabetizzazione digitale, in particolare nel mondo della scuola. Riteniamo che un’analisi congiunta dei due ambiti possa aiutare ad offrire a docenti ed educatori una visione utile per riflettere ed affrontare consapevolmente l’uso dell’AI in classe. Ma andiamo con ordine.

Il 19 maggio 2025, un tribunale della contea di Gwynnett in Georgia (USA) ha emesso una sentenza che potrebbe fare giurisprudenza ed aprire nuovi scenari: ha escluso la responsabilità di OpenAI per le “allucinazioni”, ovvero contenuti inventati o inesatti prodotti dall’AI. Ma ripercorriamo i fatti. Un giornalista cerca di ottenere una sintesi del ricorso presentato da una fondazione sostenitrice del Secondo Emendamento della Costituzione americana – quello, per intenderci, che  garantisce il diritto dell’individuo a detenere e portare armi  – contro il procuratore generale dello Stato di Washington.

Per far ciò si avvale di ChatGPT ed il risultato è che il chatbot indica Mark Walters, noto commentatore radiofonico statunitense, come responsabile di un’appropriazione indebita a danno della fondazione, il quale promuove un’azione legale nei suoi confronti in quanto citato erroneamente ed in forma diffamatoria nell’ articolo giornalistico. Sebbene il giornalista, autore dell’articolo, fosse cosciente che la piattaforma utilizzata potesse sbagliare, come da avvisi indicati dalla stessa, e pur essendo in grado di potersi rendere conto della palese incoerenza di alcuni passaggi presenti nel testo, decide lo stesso di pubblicare la notizia senza ulteriori controlli ed approfondimenti.

Questo ci insegna una cosa importante: l’AI può sbagliare, e spetta a noi il compito di selezionare e valutare quanto ci viene proposto. È un po’ come quando leggiamo qualche notizia su Internet: dobbiamo sempre chiederci se sia vera o meno.

Inoltre, la corte ha chiarito che:

• Se chi usa l’AI non capisce la risposta o non verifica i dati, è lui il responsabile delle conseguenze. Servizi come quelli forniti da ChatGPT non sono assolutamente in grado di fornire risposte precise: il loro è un servizio molto più simile a quello degli oracoli piuttosto che ai detentori di verità rivelate. Pertanto utenti che si ostinano ad utilizzarla in modo superficiale, a volte senza comprendere le risposte che vengono fornite, sono imputabili dell’utilizzo che ne fanno e non devono scaricare l’incombenza sul fornitore del servizio. Così, parallelamente, se la responsabilità per danni derivanti dal trattamento dei dati, indicato nel regolamento europeo sull’AI, vede l’utente di default come parte lesa, ciò è bilanciato dalla considerazione di sue eventuali negligenze.
• Il fornitore del servizio non è responsabile, a meno che non si dimostri un comportamento negligente o una progettazione scorretta del modello. Le risposte fornite da ChatGPT ed oggetto del contenzioso erano certamente false, ma non per questo si può giungere alla conclusione che OpenAI abbia intenzionalmente voluto generarle per commettere un illecito o che abbia addestrato in maniera erronea il modello per offendere la reputazione altrui. La sentenza è importante perché indica il confine di responsabilità di coloro che sviluppano piattaforme AI: finché esse verranno addestrate senza applicare paradigmi etici, o altre forme di intervento intenzionale, i fornitori di servizi AI potranno invocare la loro neutralità. 
• Il modo in cui viene comunicata l’affidabilità dello strumento è cruciale (AI washing): dichiarazioni ambigue o marketing eccessivamente ottimistico sull’accuratezza dei risultati possono portare a una corresponsabilità. Non avendo fornito nessuna prova del comportamento negligente di OpenAI la pretesa risarcitoria del presunto diffamato non poteva essere presa in considerazione. Ma come si può fornire una prova del genere non avendo accesso ad informazioni oggetto di proprietà intellettuale e per questo riservate e, comunque, accessibili solo tramite non semplici e costose perizie? In tale situazione è difficile che qualche azienda tecnologica possa rispondere di eventuali danni provocati. Eventualmente si potrebbe chiedere a costoro di dimostrare non come fanno ma cosa fanno per evitare pericolosi errori.

Questa sentenza, pur non essendo vincolante in Europa, mette in luce un nodo centrale: l’AI non può essere utilizzata in modo acritico. L’utente – anche quando si tratta di un educatore o di uno studente – deve essere formato per interpretare e valutare criticamente le risposte ottenute.

Mentre la giustizia si occupa dei rischi dell’AI, l’Unione Europea nel frattempo sta lavorando su come insegnare a usarla bene, soprattutto a scuola. Il Generative AI Outlook Report, pubblicato a giugno 2025 dal Joint Research Centre, ha analizzato le potenzialità e i rischi dell’integrazione dell’intelligenza artificiale nell’istruzione, evidenziando la necessità di formare non solo all’uso, ma anche alla comprensione critica della stessa. Lo studio avverte anche che affidarsi troppo all’AI può essere pericoloso. Se uno studente usa ChatGPT per fare i compiti senza capire quello che legge, non impara davvero. E se ci fidiamo troppo delle risposte che ci vengono fornite, rischiamo di non sviluppare il nostro pensiero critico.

Per questo motivo, la Commissione Europea sta redigendo un nuovo quadro di competenze digitali chiamato DigComp 3.0(evoluzione del quadro europeo delle competenze digitali), che includerà finanche l’alfabetizzazione all’AI. L’obiettivo è insegnare non solo come usare l’intelligenza artificiale, ma anche come capirla e valutarla, fin dalla scuola secondaria.

Tra le novità più rilevanti:

• L’introduzione di percorsi di alfabetizzazione all’AI nella scuola primaria e secondaria, in collaborazione con l’OCSE.
• Un focus su etica, disinformazione, privacy e disuguaglianze: l’uso dell’intelligenza artificiale non può prescindere da un contesto educativo che guidi scelte consapevoli e inclusive.
• L’invito alle istituzioni scolastiche a formare gli insegnanti, aggiornare le linee guida etiche e promuovere un uso responsabile e critico della GenAI.

La combinazione tra l’aspetto giuridico e quello educativo suggerisce una direzione chiara per il mondo della scuola: l’intelligenza artificiale non può essere solo uno strumento tecnico, ma deve diventare oggetto di riflessione critica, etica e metodologica. Gli insegnanti sono chiamati a un duplice compito: da un lato devono educare gli studenti all’uso dell’AI, dall’altro devono essere formati essi stessi per affrontarne i rischi: come l’affidamento eccessivo, i biases algoritmici e la disinformazione. Essa non necessariamente è un nemico ma, se usata bene, può rivelarsi un alleato potente. Ma per far ciò serve conoscenza, attenzione e una buona formazione.

In definitiva, la scuola non può sottrarsi alla sfida dell’AI: ma per affrontarla con efficacia, occorre un nuovo patto educativo capace di unire competenza tecnica, consapevolezza critica e responsabilità civile.

Regaliamo idee
Questo articolo, come tutti gli altri del sito della storica voce non profit dell’educazione
ambientale italiana, è accessibile gratuitamente, senza essere bloccato/a dopo le prime
righe da pressanti inviti ad abbonarti. Facci sapere se ti è piaciuto e se lo hai trovato utile.
Questo sito e tutti gli strumenti di informazione e comunicazione ambientale della rete di
cui “.eco” è l’espressione più autorevole sono a disposizione di chi opera per fare cultura
del cambiamento e della sostenibilità. Usalo, manda notizie ed esperienze, intervieni nel
dibattito, collabora, diventa volontario digitale.
Ma se vuoi che riusciamo a farlo sempre meglio, ricorda che donazioni, abbonamenti e
adesioni alla rete sono per noi un aiuto prezioso. Scopri come cliccando qui.