Errore diagnostico con AI: chi è responsabile?

Q: Come posso sapere se durante la diagnosi è stata utilizzata l’intelligenza artificiale?

È possibile chiedere chiarimenti alla struttura sanitaria e controllare la cartella clinica, i referti e i protocolli. La richiesta dovrebbe indicare quale sistema sia stato utilizzato, con quale funzione e chi ne abbia verificato il risultato.

Un software analizza una TAC e non segnala alcuna anomalia. Il medico conferma il risultato, ma alcuni mesi dopo viene diagnosticata una patologia che avrebbe potuto essere individuata prima. Chi risponde dell’errore: il professionista, l’ospedale oppure l’azienda che ha sviluppato il sistema?

Quando una diagnosi viene formulata con il supporto dell’intelligenza artificiale e si rivela errata, la responsabilità può coinvolgere il medico, la struttura sanitaria e, se emerge un difetto del prodotto, anche il produttore del software. Non esiste però una risposta valida per tutti i casi: occorre individuare la causa concreta dell’errore e ricostruire il ruolo svolto da ciascun soggetto.

L’AI viene già utilizzata per analizzare immagini diagnostiche, dati clinici e fattori di rischio. Il suo risultato può incidere sul percorso terapeutico, ma un output sbagliato non dimostra da solo un caso di malasanità. Occorre ricostruire il comportamento del medico, l’organizzazione della struttura e il funzionamento dello strumento. In alcuni casi possono essere coinvolti più responsabili.

Quando una diagnosi sbagliata con l’AI può essere un errore medico

Una diagnosi che in seguito si rivela inesatta non costituisce automaticamente un caso di responsabilità sanitaria. La medicina non garantisce sempre un risultato corretto: alcune patologie sono difficili da riconoscere, soprattutto nelle fasi iniziali, e sintomi simili possono essere collegati a condizioni molto diverse.

Anche i sistemi di intelligenza artificiale applicati alla diagnosi possono produrre falsi positivi o falsi negativi. Per stabilire se vi sia stato un errore medico, bisogna quindi valutare quali informazioni fossero disponibili nel momento in cui è stata presa la decisione clinica, senza giudicare la condotta soltanto sulla base di ciò che è emerso successivamente.

Una diagnosi errata o tardiva può assumere rilievo quando il medico:

ignora sintomi, esami o precedenti clinici significativi;
non prescrive approfondimenti che il quadro avrebbe richiesto;
interpreta in maniera non corretta il risultato del sistema;
si affida acriticamente alla risposta automatica;
non considera i limiti o le condizioni d’uso dichiarate dal produttore.

L’output dell’intelligenza artificiale deve essere confrontato con l’anamnesi, le immagini diagnostiche, gli esami di laboratorio, i sintomi e il quadro clinico complessivo.

La semplice modifica della diagnosi a distanza di tempo non prova, da sola, la responsabilità. Può invece essere significativo che il risultato suggerito dall’AI fosse già incompatibile con elementi clinici disponibili e che tali incongruenze non siano state adeguatamente approfondite.

Chi risponde dell’errore: medico, struttura sanitaria o produttore?

Il tema della responsabilità per gli errori dell’intelligenza artificiale in sanità non consente una soluzione automatica. Il danno può derivare da una valutazione clinica inadeguata, da un problema organizzativo, da un malfunzionamento tecnico o dalla combinazione di più fattori.

La disciplina italiana distingue inoltre la posizione della struttura sanitaria da quella del singolo professionista, consentendo di valutare separatamente le rispettive condotte.

Quando può essere responsabile il medico che ha utilizzato l’AI?

Il medico può essere coinvolto quando segue il risultato del software senza valutarlo criticamente, ignora sintomi o esami incompatibili con l’output, non richiede ulteriori accertamenti oppure interpreta in modo errato le informazioni prodotte dal sistema.

La responsabilità può emergere anche quando il professionista:

trascura un avviso rilevante generato dal software;
utilizza il sistema al di fuori delle finalità previste;
non considera i limiti dichiarati dello strumento;
sostituisce integralmente il proprio giudizio clinico con la risposta dell’algoritmo.

Il medico, dunque, non risponde per il semplice fatto di avere impiegato una tecnologia. A essere valutato è il modo in cui l’ha utilizzata nel caso concreto.

Alla domanda “il medico può affidarsi alla diagnosi dell’intelligenza artificiale?” la risposta richiede una distinzione. Può certamente utilizzare l’AI come strumento di supporto, ma non dovrebbe trattarne il risultato come una conclusione automaticamente corretta e non contestabile.

Quando può essere responsabile la struttura sanitaria?

La responsabilità dell’ospedale o della clinica può essere valutata quando la struttura adotta un sistema non adeguato alle attività per le quali viene impiegato, non forma correttamente il personale o non definisce procedure efficaci di verifica.

Possono inoltre assumere rilievo:

l’utilizzo di una versione obsoleta del software;
la mancata installazione degli aggiornamenti necessari;
una configurazione errata;
carenze nella manutenzione;
l’assenza di registrazioni tecniche utili;
protocolli interni insufficienti;
un’organizzazione del lavoro che favorisca un uso non controllato dell’AI.

La struttura dovrebbe assicurare che lo strumento sia correttamente selezionato, installato, aggiornato e utilizzato da personale adeguatamente formato.

Le differenze tra ospedale pubblico e clinica privata devono essere analizzate nel singolo caso, ma la normativa italiana prevede obblighi di sicurezza e copertura anche per le strutture sanitarie e sociosanitarie, pubbliche e private.

Quando può essere responsabile il produttore del software medico?

La responsabilità del produttore può assumere rilievo se l’errore dipende da un difetto di progettazione, da un malfunzionamento, da prestazioni non corrispondenti a quelle dichiarate oppure da istruzioni incomplete o non sufficientemente chiare.

Possono essere importanti anche:

aggiornamenti difettosi;
vulnerabilità di sicurezza;
anomalie già note ma non corrette;
informazioni insufficienti sui limiti del sistema;
una rappresentazione fuorviante del livello di affidabilità del software.

Il difetto, tuttavia, non può essere dedotto dal solo fatto che il sistema abbia restituito un risultato inesatto. Anche uno strumento correttamente progettato può commettere errori o non individuare una patologia.

Occorre quindi verificare come funzionava il prodotto, per quale impiego era stato progettato, quali prestazioni erano state dichiarate e se fosse stato installato, configurato e utilizzato correttamente.

La nuova disciplina europea sulla responsabilità da prodotto comprende espressamente anche il software e i sistemi di intelligenza artificiale. La sua applicazione al caso concreto dipende però dal recepimento nazionale, dalla data in cui il prodotto è stato immesso sul mercato o messo in servizio e dalla presenza di tutti i presupposti richiesti dalla normativa.

Medico, ospedale e produttore possono essere responsabili insieme?

Sì. Le diverse responsabilità possono concorrere.

Il sistema, per esempio, non segnala una lesione, l’ospedale non installa un aggiornamento necessario e il medico conferma il referto senza approfondire immagini incompatibili con i sintomi del paziente. In una situazione simile possono essere necessario valutare contemporaneamente:

il possibile difetto o malfunzionamento del software;
l’organizzazione e le procedure della struttura;
il comportamento del professionista;
il rapporto causale tra ciascuna condotta e il danno subito.

La risposta alla domanda “chi risponde se l’intelligenza artificiale sbaglia una diagnosi?” dipende quindi dalla ricostruzione dell’intera catena decisionale, non soltanto dall’ultimo soggetto che ha firmato il referto.

Il medico deve controllare una diagnosi suggerita dall’intelligenza artificiale?

L’output di un sistema automatico non dovrebbe essere letto isolatamente. Il medico deve confrontarlo con le condizioni del paziente e riconoscere eventuali incongruenze tra la risposta del software, i sintomi, l’anamnesi e gli esami disponibili.

Ciò non significa che il professionista debba ripetere manualmente ogni elaborazione effettuata dall’algoritmo. Il controllo richiesto varia in base alla funzione del sistema, alla complessità del caso e al grado di affidamento che l’output può generare.

La supervisione umana diventa particolarmente importante quando il quadro clinico mette in dubbio il risultato. Il professionista deve poter contestare, correggere o decidere di non seguire l’indicazione automatica, disponendo ulteriori accertamenti quando necessari.

Anche il regolamento europeo sull’intelligenza artificiale prevede, per i sistemi ad alto rischio, misure di sorveglianza umana finalizzate a comprendere capacità e limiti dello strumento e a intervenire sui suoi risultati. I sistemi di AI integrati in determinati dispositivi medici possono rientrare nel relativo quadro di rischio.

Come si dimostra che la diagnosi errata con l’AI ha causato un danno?

Per ottenere un risarcimento per una diagnosi errata non basta dimostrare che il primo referto fosse sbagliato. È necessario ricostruire le date dei sintomi, delle visite, degli esami e delle terapie, individuando il momento in cui la patologia avrebbe potuto essere ragionevolmente riconosciuta.

Occorre poi verificare cosa sarebbe accaduto con una diagnosi tempestiva: se il paziente avrebbe potuto iniziare prima una terapia, evitare un trattamento più invasivo, limitare l’aggravamento della malattia o conservare migliori prospettive di guarigione.

Il nesso causale serve a distinguere i danni effettivamente riconducibili all’errore da quelli che si sarebbero comunque verificati per l’evoluzione naturale della patologia o per condizioni preesistenti.

Per dimostrare un possibile errore medico collegato all’uso dell’AI è normalmente necessaria una perizia medico-legale. Nei casi più complessi può essere utile anche una consulenza tecnica sul software, sulla sua configurazione e sugli output generati. L’accertamento richiede quindi due livelli di analisi, che possono intrecciarsi: quello sanitario e quello tecnologico.

Il danno da perdita di chance per una diagnosi tardiva

Quando non è possibile dimostrare che una diagnosi tempestiva avrebbe certamente evitato il danno, può essere necessario valutare la perdita di chance, cioè la perdita di una concreta possibilità di guarigione, sopravvivenza o trattamento più favorevole.

La perdita di chance non coincide con una speranza generica o con una possibilità puramente ipotetica. Deve essere accertata sulla base dei dati clinici, delle conoscenze scientifiche e delle probabilità riferibili alle condizioni specifiche del paziente.

I danni conseguenti a una diagnosi errata o tardiva possono comprendere:

l’aggravamento della patologia;
una maggiore invalidità;
cure più invasive;
ulteriori spese mediche e assistenziali;
la perdita o riduzione del reddito;
il danno da perdita di chance;
il decesso del paziente.

L’individuazione delle conseguenze risarcibili richiede una valutazione personalizzata e non può essere effettuata soltanto sulla base del tipo di errore contestato.

Quali documenti raccogliere in caso di diagnosi errata con l’AI

Per capire se vi sia stato un caso di malasanità collegato all’impiego dell’intelligenza artificiale è essenziale raccogliere la documentazione sanitaria e ricostruire con precisione ciò che è accaduto.

Documentazione sanitari

È opportuno acquisire:

la cartella clinica completa;
tutti i referti;
le immagini diagnostiche originali;
gli esami di laboratorio;
le prescrizioni;
le lettere di dimissione;
le consulenze specialistiche;
la documentazione relativa alle visite successive;
i certificati che attestano il peggioramento;
le fatture e le ricevute delle spese sostenute;
le comunicazioni scambiate con i medici e con la struttura.

La cartella clinica costituisce una fonte centrale per ricostruire chi ha compiuto determinate attività, in quale momento e sulla base di quali informazioni.

È importante non limitarsi al solo referto scritto. In presenza di esami radiologici, per esempio, le immagini originali possono consentire agli specialisti di verificare se l’anomalia fosse già visibile al momento del primo accertamento.

Informazioni sul software utilizzato

Quando disponibili, è utile individuare:

il nome del sistema;
il produttore;
la versione utilizzata;
la funzione concretamente svolta;
il tipo di output generato;
gli eventuali alert;
l’identità del professionista che ha validato il risultato;
gli aggiornamenti installati;
gli interventi di manutenzione;
i protocolli interni della struttura;
eventuali segnalazioni di malfunzionamento.

Possono essere importanti gli output e gli alert prodotti, l’identità del professionista che ha validato il risultato, gli aggiornamenti installati, la manutenzione, i protocolli interni e le segnalazioni di malfunzionamento.

Il paziente potrebbe non disporre immediatamente di tutti i dati tecnici e non ha automaticamente accesso al codice sorgente o a ogni informazione tutelata dal segreto industriale. L’assenza iniziale di tali elementi non impedisce, però, di richiedere la documentazione disponibile e valutare le successive iniziative.

Cosa fare concretamente se si sospetta un errore diagnostico

Il primo passo è richiedere formalmente alla struttura una copia completa della cartella clinica e conservare tutti i referti e le immagini originali. È poi utile preparare una cronologia dettagliata indicando:

quando sono comparsi i primi sintomi;
quali visite sono state effettuate;
quali esami sono stati prescritti;
quali diagnosi sono state formulate;
quali terapie sono state iniziate;
quando è emersa la diagnosi corretta;
quali conseguenze si sono verificate nel frattempo.

È inoltre possibile chiedere alla struttura se sia stato utilizzato un sistema di intelligenza artificiale e con quale funzione.

Vanno conservati email, messaggi e documenti relativi alle spese sostenute. Il caso dovrebbe poi essere sottoposto a un medico legale e a un avvocato esperto in responsabilità sanitaria.

La documentazione può quindi essere sottoposta a un medico legale e a un avvocato esperto in responsabilità sanitaria. Prima di avviare una richiesta di risarcimento occorre infatti verificare le prove utili a dimostrare l’errore medico, accertando non soltanto la presenza di una condotta non corretta, ma anche il danno prodotto e il rapporto causale tra tale condotta e le conseguenze subite.

Una prima checklist per capire se puoi chiedere un risarcimento comprende quindi: documentazione completa, ricostruzione temporale, individuazione del possibile errore, valutazione del danno e verifica del rapporto causale tra condotta e conseguenze subite.

Domande frequenti

Una risposta sbagliata dell’AI dimostra automaticamente la responsabilità del medico?

No. L’errore dell’algoritmo non prova da solo una negligenza medica. Occorre verificare se il professionista abbia controllato il risultato e considerato sintomi, esami e altre informazioni cliniche disponibili.

Posso chiedere il risarcimento direttamente all’ospedale?

Sì, se il danno è riconducibile anche alla struttura sanitaria. La responsabilità può derivare, per esempio, da una formazione insufficiente, da software non aggiornati o da procedure di controllo inadeguate.

Il produttore risponde ogni volta che il software medico sbaglia?

No. È necessario dimostrare un difetto di progettazione, funzionamento, sicurezza o informazione. Va inoltre verificato che il sistema sia stato installato, configurato e utilizzato correttamente.

Come posso sapere se durante la diagnosi è stata utilizzata l’intelligenza artificiale?

È possibile chiedere chiarimenti alla struttura e controllare cartella clinica, referti e protocolli. La richiesta dovrebbe indicare quale sistema sia stato utilizzato, con quale funzione e chi ne abbia verificato il risultato.

Una diagnosi tardiva dà sempre diritto al risarcimento?

No. Occorre dimostrare che il ritardo abbia causato un danno concreto, come l’aggravamento della patologia, cure più invasive o la perdita di una reale possibilità di guarigione o sopravvivenza.

Hai subito un danno a causa di una diagnosi sbagliata o di un possibile errore medico, anche in seguito all’utilizzo di strumenti di intelligenza artificiale? Analizziamo il caso e verifichiamo se hai diritto al risarcimento.

RICHIEDI UNA CONSULENZA GRATUITA