Il professor Giorgio Parisi, premio Nobel per la fisica, ha voluto testare l’Intelligenza Artificiale con un esperimento banale: convincere un programma che 5 x 4 facesse 25. Inizialmente, l’IA ha risposto correttamente ma, il professore ha insistito e ha convinto l'IA ad accettare l’errore.
Parisi durante un'intervista al quotidiano Repubblica ha raccontato :

"interrogando l’IA sul presidente dell’Accademia dei Lincei, il sistema ha erroneamente attribuito il titolo al fisico Roberto Antonelli, anziché al filologo realmente in carica. Anche di fronte alla correzione, l’IA ha risposto con un’incertezza: “Questo è un mistero da risolvere”.

Parisi ha evidenziato che l’IA non ragiona in autonomia, ma predice la parola successiva facendo riferimento alla quantità di testi sui quali è stata addestrata. Secondo lo scienziato:

• L’IA è un grande riassunto di tutto ciò che l’umanità ha prodotto sul web, senza un vero processo logico;
• È stata definita un “pappagallo stocastico”, poiché ripete e combina informazioni senza comprenderne il significato;
• Non possiede una rappresentazione del mondo reale, quindi non è in grado di adattarsi a nuove situazioni o correggere errori in autonomia.

Per esempio se si chiede all’IA il miglior tragitto tra due punti, il sistema fornisce una risposta basata su testi preesistenti, ma non è in grado di ricalcolare il percorso in caso di deviazioni, poiché non ha una mappa del mondo esterno.

Quindi lo spirito critico e l’educazione svolgono un ruolo fondamentale perché le risposte dell’IA dipendono dai dati con cui è stata addestrata e se un sistema legge solo testi scientifici, darà risposte basate sulla scienza, mentre se viene esposto a teorie complottiste, restituirà risposte influenzate da queste narrazioni.
"...lo studio è fondamentale per sviluppare spirito critico e autonomia di pensiero. L’IA non fornisce le fonti delle sue risposte, quindi è essenziale valutare l’attendibilità delle informazioni ricevute."
L’IA dipenda e dipenderà sempre dall'intelletto umano e dalle capacita' di quest'ultimo ... se l'uomo utilizzerà da ora in avanti solo strumenti artificiali senza fornire nuovi contributi e ricerche, la crescita dell'IA si arresterà irrimediabilmente , limitandosi a rielaborare contenuti già esistenti, essa non va demonizzata ma in certi ambiti non va utilizzata.

Wwworizzontescuola.it