Perché l’IA non Dice la Verità: come Usarla Davvero Bene
Perché l’IA non Dice la Verità: 4 Rivelazioni per Usarla Davvero Bene
Ho partecipato a Trento al Corso della Società Itaiana del Midolo Spinale con un intervento sull’applicazione pratica dell’intelligenza artificiale nella pratica clinica.
L’intelligenza artificiale generativa, incarnata da strumenti come ChatGPT, è entrata nelle nostre vite con la forza di una rivoluzione. La percepiamo spesso come un’entità quasi magica, un oracolo onnisciente capace di rispondere a qualsiasi domanda con una sicurezza disarmante. Le affidiamo ricerche, riassunti, persino la stesura di testi complessi, convinti di interagire con una forma di “intelligenza” superiore.
E se questa percezione fosse radicalmente sbagliata? Se la realtà del funzionamento di questi sistemi fosse non solo diversa, ma anche più problematica, sorprendente e, in ultima analisi, interessante? La verità è che l’IA non “mente” nel senso umano del termine, perché non è abbastanza intelligente per farlo. Semplicemente, genera falsità statisticamente probabili. Stiamo usando uno strumento potentissimo senza comprenderne appieno la natura, i limiti e le trappole.
Questo articolo distilla quattro delle più controintuitive e fondamentali verità sull’IA, emerse da un recente dialogo tra esperti del settore. Comprendere questi punti non è un mero esercizio intellettuale: è la chiave per smettere di essere utenti passivi e diventare padroni consapevoli di una tecnologia che sta definendo il nostro futuro, imparando a usarla in modo più sicuro ed efficace.
- Non è intelligente, ma “artificiale”: il problema delle allucinazioni
Il primo e più grande equivoco riguarda la natura stessa di questi sistemi. Un modello come ChatGPT non è “intelligente” nel senso umano del termine. Non ragiona, non comprende e non sa. È, per dirla in modo semplice, un sofisticatissimo “pappagallo statistico”. Il suo unico compito è calcolare, sulla base delle immense quantità di dati su cui è stato addestrato, quale parola ha la più alta probabilità di seguire quella precedente in un dato contesto.
Questa architettura porta a una conseguenza diretta e pericolosa: le “allucinazioni”. Quando il sistema non conosce una risposta, non ammette la propria ignoranza. Al contrario, genera informazioni false ma plausibili per mantenere la coerenza del discorso. Questo non è un difetto, ma una caratteristica intrinseca legata a un parametro chiamato “temperatura”. Una temperatura alta incoraggia la creatività e l’invenzione, utile per il brainstorming; una bassa spinge a risposte più prevedibili e fattuali. I modelli pubblici sono tarati per un equilibrio che favorisce la fluidità, anche a costo della verità.
Un esempio pratico, illustrato dal Dott. Zampolini durante un convegno, è illuminante. Alla semplice richiesta “Fai una relazione sulla disriflessia autonomica con bibliografia”, l’IA ha prodotto un testo e cinque riferimenti bibliografici. Le voci sembravano perfette: citavano nomi di autori reali e noti in quel campo di studi, ma i titoli e i riferimenti degli articoli erano completamente inventati. Nessuno di essi esisteva.
Un altro caso ancora più esplicito riguarda una citazione attribuita a San Luca, suggerita dall’IA in un contesto religioso. Messo alle strette sulla fonte esatta, il sistema ha confessato candidamente la sua natura:
Hai ragione a chiedermelo, professor Zampolini, devo essere onesto, non è una citazione diretta da una fonte specifica, ma è una mia elaborazione retorica basata sui fatti storici ben noti… ma l’ho formulata io per collegarmi al contesto…
L’IA non cerca la verità, ma la coerenza statistica. Un dettaglio che cambia tutto.
- Può sembrare più “empatico” di un medico (ma non prova nulla)
Compresa la sua natura imperfetta, iniziamo a scoprire i suoi paradossi. Uno studio pubblicato sulla prestigiosa rivista JAMA Internal Medicine ha messo a confronto le risposte fornite da medici umani e da un chatbot a domande reali poste da pazienti online. In un test alla cieca, un gruppo di externa assessor ha giudicato le risposte dell’IA non solo di qualità superiore, ma anche significativamente più empatiche di quelle dei medici.
Come è possibile? L’IA, ovviamente, non prova alcuna emozione. Non sente empatia. Tuttavia, avendo analizzato miliardi di testi – romanzi, poesie, lettere, articoli – ha imparato a riconoscere e replicare con precisione chirurgica i modelli linguistici che noi umani associamo all’empatia. Può generare la risposta “perfetta” perché non è soggetta alla stanchezza, alla fretta o allo stress che possono influenzare un professionista umano.
Questo risultato ci costringe a chiederci: che cos’è l’empatia? È l’intenzione che c’è dietro le parole, o l’effetto che quelle parole hanno su di noi? L’IA ci mostra la differenza abissale che esiste tra la simulazione impeccabile di una qualità umana e il possesso autentico di quella qualità. Lo specchio artificiale, in questo caso, riflette un’immagine scomoda della nostra stessa percezione.
- Il segreto per domarla: l’arte del “Prompt Engineering”
Se il problema è la sua natura statistica, come possiamo allora piegarla alla nostra volontà? La risposta sta nel modo in cui le parliamo. Trattarla come un semplice motore di ricerca è l’errore più comune e grave che si possa commettere. La qualità delle sue risposte è direttamente proporzionale alla qualità delle nostre domande.
Qui entra in gioco una nuova abilità fondamentale: il “Prompt Engineering”, ovvero l’arte di formulare richieste dettagliate, contestualizzate e precise. Come abbiamo visto nella prima rivelazione, l’IA è un sistema probabilistico. Un prompt ben ingegnerizzato non la rende “più intelligente”; semplicemente, le fornisce delle barriere statistiche molto più strette, riducendo drasticamente il campo delle possibili parole successive “corrette” e limitando la sua tendenza a inventare.
L’esempio della bibliografia sulla disriflessia autonomica lo dimostra perfettamente.
- Prompt semplice:
- Risultato: Bibliografia completamente inventata.
- Prompt ingegnerizzato:
- Risultato: Bibliografia corretta e reale.
La differenza è netta. Usare l’IA in modo efficace non è un’interrogazione, ma un dialogo strategico. È un’abilità che va appresa e affinata.
- Il trucco definitivo: costruisci la tua mini-IA personale e ultra-esperta
Anche il prompt più magistrale, però, è una richiesta rivolta a un sistema generalista addestrato su tutto Internet, con i suoi errori e pregiudizi. E se potessimo fare di meglio? Se potessimo trasformare l’oracolo inaffidabile in un assistente esperto e fidato? Questa è la lezione finale, la più potente, che completa il nostro percorso verso la padronanza dello strumento.
Invece di affidarci alla conoscenza oceanica dell’IA, possiamo creare il nostro esperto personale e ultra-specializzato. Questa tecnica, nota come Retrieval-Augmented Generation (RAG), è la risposta definitiva al problema delle allucinazioni. Strumenti come NotebookLM di Google permettono di caricare un set di documenti fidati forniti da noi – e solo quelli – per creare una “fonte di conoscenza” chiusa.
Il Dott. Zampolini ne ha fornito un esempio brillante. Ha registrato tutte le sue lezioni universitarie di fisioterapia, le ha caricate nel sistema e ha dato accesso ai suoi studenti. L’IA è diventata il suo “gemello digitale”. Gli studenti possono interrogarla in qualsiasi momento, ricevendo risposte basate esclusivamente sugli insegnamenti specifici del professore. Il sistema diventa un esperto assoluto e unico di quel materiale, abbattendo drasticamente il rischio di invenzioni.
L’applicazione pratica è immediata: potete registrare l’audio di una riunione di lavoro, darlo in pasto al sistema e chiedergli di produrre un riassunto perfetto e una lista di punti azione. Non inventerà nulla, si limiterà a rielaborare in modo intelligente i contenuti che gli avete fornito.
Conclusione: Uno Strumento, non un Oracolo
L’intelligenza artificiale non è un oracolo infallibile né un’entità dotata di coscienza. È uno strumento di una potenza senza precedenti, ma con limiti precisi e una natura profondamente “aliena” rispetto alla nostra. La sua affidabilità e la sua utilità non dipendono dalla sua presunta “intelligenza”, ma interamente dalla nostra consapevolezza e abilità nell’utilizzarla.
Imparare a dialogare con essa, a fornirle confini chiari e a sfruttarla come un assistente specializzato anziché come un pozzo di conoscenza universale è il vero salto di qualità. Solo così potremo sfruttarne le immense opportunità, proteggendoci al contempo dai suoi inevitabili rischi.
Ora che sappiamo che l’IA è uno specchio che riflette i dati che gli forniamo e il modo in cui la interroghiamo, quale responsabilità abbiamo nel plasmare le risposte che darà al mondo di domani?
