Il medico e la macchina: chi decide quando l’IA entra in corsia

Nel 2012, IBM strinse una partnership con il Memorial Sloan Kettering Cancer Center di New York per sviluppare Watson for Oncology, un sistema di intelligenza artificiale capace di analizzare la letteratura scientifica e le cartelle cliniche per suggerire ai medici il trattamento più appropriato per ogni singolo paziente oncologico. L’idea era ambiziosa e, nella sua formulazione, quasi irresistibile: democratizzare l’eccellenza clinica di uno dei migliori centri oncologici del mondo, rendendola disponibile a qualunque ospedale, in qualunque paese. Nel 2017, il progetto fu sospeso. Watson proponeva trattamenti basati esclusivamente sulle pratiche del Sloan Kettering, ignorando le linee guida locali, la disponibilità dei farmaci, le coperture assicurative nazionali. In alcuni casi, aveva raccomandato terapie che i medici giudicarono potenzialmente fatali. L’Ospedale Nazionale di Danimarca congelò il progetto pilota dopo aver rilevato un numero elevato di errori. Nel 2022, IBM vendette Watson Health a un fondo di private equity per circa un miliardo di dollari — una frazione dell’investimento iniziale.
La vicenda di Watson non è un aneddoto. È il caso di studio più istruttivo su cosa accade quando un sistema di IA viene introdotto nella pratica clinica senza che il rapporto tra la macchina e il medico sia stato pensato con sufficiente rigore. E oggi, mentre i decreti attuativi della Legge 132/2025 ribadiscono la «centralità del medico» come principio fondante dell’uso dell’IA in sanità, la domanda che Watson lascia aperta è più attuale che mai: cosa significa, in concreto, che il medico resta centrale?

L’IA che vede meglio del radiologo
Mentre Watson falliva nel tentativo di sostituire il ragionamento clinico, un’altra famiglia di sistemi di IA stava ottenendo risultati straordinari in un campo più circoscritto: la diagnostica per immagini. I modelli di deep learning applicati alla radiologia hanno raggiunto, in condizioni sperimentali controllate, livelli di sensibilità nella rilevazione di noduli polmonari, lesioni mammarie e retinopatia diabetica paragonabili o superiori a quelli dei radiologi umani. Google Health, ad esempio, ha sviluppato un sistema per lo screening mammografico che in studi pubblicati su Nature ha mostrato una riduzione dei falsi negativi e dei falsi positivi rispetto alla lettura umana.
La differenza rispetto a Watson è cruciale e va compresa. Watson cercava di ragionare come un oncologo: leggere la cartella, incrociare i dati, proporre una terapia. I sistemi di diagnostica per immagini non ragionano: riconoscono pattern. Identificano in una lastra ciò che l’occhio umano potrebbe non vedere, ma non sanno perché lo vedono e non possono collocare quel dato nella storia clinica del paziente. Il radiologo resta indispensabile non perché vede meglio della macchina, ma perché capisce cosa significa ciò che vede. La centralità del medico, qui, non è un principio giuridico: è una necessità epistemologica. 

Il triage automatizzato e la pressione economica 
Più insidioso è il terreno del triage, dove alcuni sistemi sanitari europei stanno sperimentando chatbot basati su IA generativa per smistare i pazienti al pronto soccorso o per gestire le richieste di assistenza primaria. In questi casi, l’IA non affianca il medico: lo precede. Decide, prima che il paziente incontri un essere umano, se il suo problema è urgente o rimandabile, se merita una visita o una rassicurazione. Il rischio non è solo clinico — un algoritmo che sottovaluta un sintomo atipico — ma sistemico: la pressione economica sui sistemi sanitari pubblici spinge a ridurre il costo del contatto umano, e l’IA offre una scorciatoia che i bilanci rendono allettante. 
Qui il principio della centralità del medico si misura con la realtà dei budget. Un sistema sanitario che non ha abbastanza medici di base può essere tentato di sostituire il primo contatto umano con un chatbot non per scelta ideologica, ma per necessità organizzativa. I decreti vietano che l’IA sostituisca il giudizio clinico; non vietano che riduca le occasioni in cui quel giudizio viene esercitato. La distinzione è sottile ma decisiva. 

La lezione di Watson: il bias che non si vede 
La vicenda di Watson ha reso visibile un problema che attraversa ogni applicazione dell’IA in medicina: il bias dei dati di addestramento. Watson era stato istruito dai medici del Memorial Sloan Kettering, un’istituzione di eccellenza mondiale ma anche un ospedale americano, con protocolli americani, pazienti americani, coperture assicurative americane. Quando il sistema fu esportato in Corea del Sud, India, Thailandia e Danimarca, le sue raccomandazioni risultarono spesso inapplicabili o inadeguate. Non perché l’algoritmo fosse difettoso, ma perché il mondo è più vario dei dati su cui era stato costruito. Lo stesso rischio si ripresenta, amplificato, con i nuovi sistemi. Un modello di IA addestrato prevalentemente su immagini di pazienti con pelle chiara può avere performance significativamente inferiori nella diagnosi dermatologica su pazienti con pelle scura. Un algoritmo di predizione del rischio cardiovascolare calibrato su popolazioni nordamericane può sovrastimare o sottostimare il rischio in popolazioni mediterranee. La «centralità del medico», in questi casi, significa anche la capacità del medico di riconoscere che la macchina sta generalizzando da un campione che non rappresenta il paziente che ha davanti. 

Formare il medico del futuro 
Il vero nodo non è normativo ma formativo. I decreti stabiliscono che la formazione sull’IA debba entrare nei percorsi universitari e nell’aggiornamento professionale continuo. Ma quale formazione? Se si insegna al medico a usare l’IA come si usa un ecografo — uno strumento da accendere e interpretare — si perde il cuore del problema. Il medico del futuro dovrà saper fare qualcosa che nessuna generazione precedente ha dovuto imparare: valutare criticamente l’output di un sistema che, in molti casi, sarà più accurato di lui sul singolo compito, ma che non ha accesso al contesto, alla storia, al volto del paziente. Significa insegnare a fidarsi della macchina quando è giusto fidarsi e a contraddirla quando è necessario contraddirla. Significa formare un professionista che sappia leggere un dato statistico, che conosca i limiti di un dataset, che comprenda cosa vuol dire «sensibilità» e «specificità» non come concetti astratti ma come strumenti del proprio giudizio quotidiano. Watson è fallito non perché l’IA non funziona, ma perché il rapporto tra l’IA e il medico non era stato pensato. Il compito che abbiamo davanti è pensarlo, prima che la pressione economica lo decida al nostro posto.

PixelPost.it è una testata registrata presso il Tribunale di Roma, n°164 del 15 Dicembre 2023