Da Odissea nello spazio all’AI act: come l'intelligenza artificiale può restare un alleato del pensiero umano

a cura di Rosie Audino esperta in filosofia e in comunicazione della scienza e della salute

In 2001: Odissea nello spazio, Kubrick racconta la tecnologia come una forza che accompagna l'evoluzione umana. All'inizio permette alle persone di fare un salto in avanti, perché amplifica la sua capacità di pensiero. Più avanti, attraverso HAL 9000, il film ci ricorda anche quanto sia importante progettare bene il rapporto tra persone e macchina, perché la tecnologia dia il meglio di sé quando resta al servizio di chi la usa.

La sfida dell'intelligenza artificiale oggi è proprio questa: far sì che uno strumento nato per aumentare l'intelligenza umana continui a rafforzare il pensiero critico, invece di renderlo superfluo.

In che senso? Nel senso del cognitive offloading, cioè la tendenza a delegare agli strumenti esterni alcune funzioni cognitive. È un meccanismo naturale e in larga parte positivo, un vero vantaggio evolutivo: è proprio ciò che Kubrick suggerisce nella celebre scena iniziale, quando l'osso, il primo strumento, diventa un'estensione delle capacità dell'uomo e ne amplifica il pensiero.

Il punto d'attenzione arriva quando non deleghiamo più solo compiti come il calcolo o la memoria, ma anche il ragionamento e il processo decisionale. Con l'intelligenza artificiale questa possibilità è concreta: sistemi sempre più efficienti ci invitano a fidarci delle loro risposte, ed è qui che vale la pena costruire l'abitudine a mantenere uno sguardo critico sul processo che le ha generate. È una competenza che si può allenare, non un problema da subire.

Automazione e fiducia: come mantenere il controllo umano mentre l'efficienza cresce

Quando un sistema è percepito come particolarmente affidabile, cresce naturalmente la fiducia nelle sue risposte, un fenomeno noto come automation bias. In pratica, una figura professionale può essere portata a validare un output anche quando qualcosa non torna, semplicemente perché il sistema "di solito ha ragione". Riconoscere questa dinamica è il primo passo per governarla: permette di restare pienamente decisori, invece che semplici validatori dell'output della macchina, mantenendo attenzione, capacità critica e responsabilità.

È proprio per valorizzare questo equilibrio che l'articolo 14 dell'AI Act introduce il principio della supervisione umana (human oversight) per i sistemi di AI ad alto rischio. La supervisione umana non significa semplicemente la presenza di una persona durante l'utilizzo del sistema, ma la capacità concreta di comprenderne il funzionamento, interpretarne i risultati, riconoscere eventuali errori o anomalie e, soprattutto, intervenire per modificare, ignorare o interrompere la decisione automatizzata quando serve. L'essere umano resta il responsabile ultimo della decisione, e questo è un punto di forza, non un limite.

L'obiettivo dell'AI Act non è rallentare l'innovazione, ma garantire che l'intelligenza artificiale rimanga uno strumento di supporto al giudizio umano. Una buona AI non è quella che elimina il decisore umano, ma quella che ne rafforza le capacità, lasciando sempre spazio al confronto, alla verifica e alla responsabilità condivisa.

La sanità come caso emblematico: l'intelligenza artificiale che assiste, non sostituisce

La sanità è uno dei settori in cui l'intelligenza artificiale può produrre i maggiori benefici, e proprio per questo merita un rapporto tra uomo e macchina progettato con particolare cura. Un algoritmo può analizzare migliaia di informazioni in pochi secondi, individuare schemi difficili da cogliere e aiutare i medici a intervenire più rapidamente. Perché questo potenziale si traduca pienamente in valore clinico, è importante che il sistema sia inserito in un processo in cui il professionista resti realmente coinvolto nella decisione.

Un esempio istruttivo riguarda il tentativo di utilizzare l'intelligenza artificiale per prevedere precocemente la sepsi, una grave risposta dell'organismo a un'infezione che richiede un intervento tempestivo.

Nel 2017 Epic Systems, uno dei principali fornitori mondiali di cartelle cliniche elettroniche, introdusse un algoritmo di supporto decisionale destinato ad aiutare gli ospedali nell'identificazione dei pazienti potenzialmente a rischio. Il sistema analizzava continuamente grandi quantità di dati: parametri vitali, esami di laboratorio, informazioni cliniche, per segnalare situazioni che avrebbero richiesto maggiore attenzione. L'idea di fondo era valida: non sostituire il medico, ma offrirgli uno strumento aggiuntivo, un secondo paio di occhi capace di individuare segnali difficili da cogliere nella complessità della pratica clinica.

L'applicazione nella realtà clinica ha offerto un'occasione preziosa di apprendimento. Gli alert prodotti dall'algoritmo erano numerosi e una parte non corrispondeva a casi reali di sepsi. Uno studio pubblicato su JAMA Network Open ha evidenziato una capacità predittiva del modello inferiore alle attese, con una quota elevata di falsi positivi. Questo ha mostrato che il valore di un sistema non dipende solo dalla qualità tecnica dell'algoritmo, ma anche dal modo in cui viene integrato nel lavoro dei professionisti.

Un numero elevato di segnalazioni può portare al fenomeno dell'alert fatigue, cioè una progressiva riduzione dell'attenzione verso gli avvisi quando diventano molto frequenti. Un infermiere che riceve decine di notifiche al giorno, la maggior parte delle quali non richiede azione, può imparare, anche inconsciamente, a darvi meno peso. È un aspetto che una buona progettazione può prevenire fin dall'inizio, calibrando gli alert sulla loro reale utilità. Una tecnologia efficace, infatti, si misura tanto dalla qualità dei risultati quanto dal modo in cui si inserisce nel processo decisionale umano.

AI Act: la supervisione umana come requisito di buona progettazione

Il caso Epic mostra bene perché la supervisione umana non sia un elemento accessorio, ma una caratteristica strutturale di un sistema ben progettato. La lezione principale non riguarda solo la capacità predittiva dell'algoritmo, ma il modo in cui viene inserito nel processo clinico: un sistema che offre strumenti chiari per interpretare i propri alert e valutarne l'affidabilità aiuta il medico a restare un decisore consapevole, non un semplice destinatario di notifiche.

Progettare bene un sistema di intelligenza artificiale significa quindi curare non solo la precisione tecnica dell'algoritmo, ma anche l'interazione con chi lo utilizzerà.

È esattamente questo equilibrio tra supervisione umana e spiegabilità che guida il nostro approccio: la spiegabilità come caratteristica strutturale, non come aggiunta. Il nostro layer conversazionale di orientamento non restituisce solo un'indicazione ("vai da questo specialista"), ma mostra il percorso di ragionamento dietro, con i nodi, le relazioni, le fonti cliniche, così l'alert diventa qualcosa da interpretare e verificare, non da accettare passivamente. A questo si affiancano segnali calibrati per intervenire solo quando l'evidenza è solida, e un processo in cui ogni nuova conoscenza clinica passa da una validazione umana esplicita prima di entrare in produzione: la supervisione dell'articolo 14 non è un principio astratto, ma un passaggio concreto del nostro workflow.

Tornando a Kubrick: il monolite di Odissea nello spazio non toglie nulla all'uomo, gli offre uno strumento per fare un salto in avanti. È questo lo spirito con cui vogliamo che l'intelligenza artificiale entri in sanità: non un HAL 9000 che decide al posto nostro, ma un osso che amplifica il pensiero di chi cura, restando sempre nelle sue mani.

‍