.png)
Da Delfi a ChatGPT: perché trattatiamo l’ai come fosse un oracolo
.png)
a cura di Rosie Audino esperta in filosofia e in comunicazione della scienza e della salute
Siamo nel VI secolo avanti Cristo. Creso è il sovrano della Lidia, una regione dell'Asia Minore corrispondente all'incirca all'odierna Turchia occidentale. Il suo regno era prospero, la sua influenza estesa, il suo esercito considerevole. Ma quando si accorse che l'impero persiano di Ciro il Grande si stava espandendo verso i suoi confini con una velocità preoccupante, si trovò di fronte a una decisione che avrebbe potuto cambiare tutto: attaccare o attendere?
Come ogni sovrano dell'epoca, Creso non si fidò del solo giudizio dei suoi generali. Si recò a Delfi.
A Delfi c’era un oracolo, il più importante centro religioso dell’antica Grecia, luogo dove molti governanti si recavano per consultare la Pizia per ricevere le profezie di Apollo prima di prendere decisioni importanti. L’oracolo gli disse: “Se Creso attraverserà il fiume Halys, distruggerà un grande impero.”
Creso interpretò erroneamente la profezia come un presagio favorevole e attraversò il fiume. La sconfitta che ne seguì gli rivelò la verità: il grande impero destinato a cadere era il suo.
Dall’oracolo di Delfi a Chatgpt: un salto pindarico azzeccato
Secoli dopo, siamo nel 2025, la stessa cantonata l’ha presa un uomo di 60 anni che chiedendo a ChatGpt consigli per migliorare la sua salute ha sviluppato una rara patologia, come riportato dalla rivista Annals of Internal Medicine. In pratica l’uomo voleva eliminare il sale dalla propria dieta chiese a ChatGPT come sostituirlo. Il modello gli suggerì il bromuro di sodio. L'uomo seguì il consiglio e finì al pronto soccorso con sintomi da intossicazione e allucinazioni.
Sappiamo tutti ormai che i modelli LLM come ChatGpt possono sbagliare, non sono oracoli, ma in un modo o nell’altro ci caschiamo. E’ successo anche a dei ricercatori che hanno inserito all’interno di un paper un referto scritto da un’ai che analizzando le immagini di una TAC al cervello si era inventata una parte anatomica, come è stato riportato dal sito di tecnologia The Verge.
Questo succede perchè l’ai è convincente anche quando la spara grossa.
Il fenomeno dell'overconfidence: il tono sicuro che disarma il dubbio
C'è un elemento che spiega perché la fiducia nell'AI tenda a essere così resistente anche quando se ne conoscono i limiti.
Uno studio pubblicato nel 2026 dal MIT Media Lab, in collaborazione con Harvard Medical School e l'Università di Washington, ha identificato nell'overconfidence uno dei meccanismi centrali delle allucinazioni: i Large language models (LLMs) presentano un livello di certezza non giustificato anche quando le loro risposte sono inaccurate o del tutto inventate. Il problema non è l'errore in sé, ma il fatto che il modello non segnala alcun dubbio e presenta l'informazione con la stessa sicurezza con cui presenterebbe una risposta corretta
I dati italiani: quanto ci affidiamo all'AI per la salute
Secondo la ricerca pubblicata nel 2026 dagli istituti Sociometrica e FieldCare il 96% dei cittadini cerca informazioni online su salute, farmaci e terapie, una quota più che triplicata nell'arco di un solo anno. Tra i pazienti con patologie croniche la percentuale sale al 38%, rispetto al 17% di un anno prima. Lo scopo prevalente è l'autodiagnosi e l'interpretazione autonoma di esami di laboratorio, due ambiti in cui l'errore ha conseguenze dirette sulla salute.
Il dato che più dovrebbe far riflettere riguarda il rapporto con i professionisti sanitari: i dati della bozza originale mostrano che il 63,9% degli italiani ha usato informazioni trovate online per verificare diagnosi o terapie suggerite dal medico, e tra questi il 62,7% ha messo in dubbio almeno una volta le raccomandazioni dello specialista. Non le risposte del chatbot, quelle dello specialista.
E dove il SSN tentenna si insinua l’ai
Sarebbe però sbagliato leggere questa deriva solo come un problema di ingenuità o di mancanza di cultura digitale. Le ragioni sono più profonde e più materiali.
Secondo l'ISTAT 5,9 milioni di persone in Italia rinunciano ogni anno alle cure, principalmente a causa delle lunghe liste d'attesa.
Di fronte a questi numeri, capiamo che rivolgersi all'AI non è un fenomeno irrazionale, è una risposta adattiva a un sistema che non risponde. Un chatbot è disponibile alle tre di notte, non fa attendere, non fa sentire il paziente un numero. Il problema non è la scelta in sé: è che quella scelta viene fatta senza consapevolezza dei limiti dello strumento, e in un contesto in cui nessuna istituzione ha ancora definito cosa l'AI possa e non possa fare in ambito clinico. Si sta delineando un sistema sanitario parallelo, non regolamentato e non monitorato, nel quale milioni di persone prendono decisioni sulla propria salute affidandosi a risposte che suonano competenti, esattamente come i Greci che attraversavano il Mediterraneo per raggiungere Delfi.
Una tecnologia a servizio delle persone
Sempre più persone si rivolgono a ChatGPT e ad altri chatbot per ottenere risposte su sintomi, esami e problemi di salute. Non perché li considerino affidabili più dei medici, ma perché spesso rappresentano la risposta più immediata quando il Servizio Sanitario Nazionale è difficile da raggiungere, i tempi di attesa sono lunghi o non si sa a chi rivolgersi.
Il punto, quindi, non è impedire alle persone di usare l'intelligenza artificiale, ma metterla al loro servizio nel modo corretto. Se progettata per risolvere problemi concreti e integrata nei percorsi di cura, l'AI può diventare uno strumento capace di migliorare l'accesso alla sanità, ridurre i tempi di risposta e accompagnare il cittadino verso il livello di assistenza più appropriato.
È questa la direzione che seguiamo in geen.ai. Stiamo sviluppando un layer di triage conversazionale intelligente che riduce il tempo che intercorre tra l'insorgenza di un bisogno di salute e la presa in carico da parte del sistema sanitario. L'obiettivo non è sostituire il medico né formulare diagnosi, ma aiutare il personale sanitario ad orientare correttamente le persone fin dal primo accesso al SSN, aiutandole a raggiungere il servizio più appropriato nel minor tempo possibile.
Bibliografia:
Google’s healthcare AI made up a body part — what happens when doctors don’t notice? | The Verge
Dal Dr Google a ChatGPT Health: sanità in crisi, salute in chat? | trendsanità
.png)
.png)