Medical Informed Consent, Artificial Intelligence and Law - MED-ICAiL

  Le evidenze scientifiche mostrano come l’impiego di IA in ambito sanitario e l’integrazione di tale tecnologia nei dispositivi medici – dalla diagnostica all’assistenza personalizzata, sino a procedure chirurgiche ad alta precisione – consentiranno di sortire effetti virtuosi in termini sia di miglioramento degli standard di cura della salute dei pazienti, sia di complessiva efficienza del sistema sanitario (con vantaggi in termini di risparmio economico che consentirebbero di destinare maggiori risorse alle strategie di prevenzione e alla ricerca biomedica).

  Dall’altro lato, l’impiego di IA comporta non secondarie problematiche, anche sul piano giuridico. In primo luogo, occorre considerare l'opacità di tale tecnologia e il cosiddetto problema della “scatola nera”, che rende non sempre possibile prevedere ex ante e comprendere ex post i meccanismi di funzionamento dell’IA, e dunque spiegare le ragioni per le quali quest’ultima abbia prodotto un determinato output. La seconda questione attiene a un piano alla discussa incapacità dei dispositivi intelligenti di prendere decisioni di natura etica, certo non rare in campo medico. Infine, l'uso di strumenti medici dotati di IA diminuisce, ma non elimina il rischio di eventi avversi dannosi per la salute del paziente (si pensi, ad esempio, al caso di eccezionali malfunzionamenti dei dispositivi).

  Alla luce del quadro delineato, particolarmente rilevanti appaiono le problematiche afferenti, in primo luogo, all’ambito del consenso informato, e nello specifico:

-    i pazienti devono essere informati dell’uso di IA nel trattamento sanitario? In caso di risposta positiva, è sufficiente fornire una generica descrizione della tecnologia e dei relativi vantaggi o è necessario rivelare altresì i connessi rischi, ivi inclusi quelli di malfunzionamento del sistema (con ogni conseguente rischio che il paziente possa risultare indotto a rifiutare il trattamento, e tutti i benefici che l’impiego di IA comporta)?

-    al fine di assicurare l’effettività del consenso prestato dal paziente, è necessaria una spiegazione completa del funzionamento del sistema di IA impiegato nella prestazione medica, esteso anche all’ipotesi di autonomo apprendimento del sistema stesso che possa anche sfuggire al controllo non soltanto dell’utilizzatore, ma anche dello sviluppatore?

-    ove il medico deliberatamente ometta di rivelare al paziente l’impiego di IA nella diagnosi o nel trattamento, egli si rende responsabile di una violazione del diritto del paziente al consenso informato?

  Tali problematiche – che comportano seri rischi per la relazione medico-paziente, e le cui specificità hanno tuttavia ricevuto, ad oggi, scarsa attenzione da parte degli studiosi italiani – saranno vagliate con indagine multilivello, guardando in primo luogo al portato dell’art. 32 Cost., anche in relazione agli artt. 2 e 13 Cost., e alla giurisprudenza che, guardando a tale norma, ha ricostruito il rapporto di cura come “rapporto di fiducia”; senza dimenticare che l’art. 32 Cost. qualifica quello alla salute non solo come “fondamentale diritto dell’individuo”, ma altresì come “interesse della collettività”. L’oggetto della ricerca sarà vagliato tenendo altresì in considerazione ulteriori riferimenti normativi, tra i quali, a titolo esemplificativo, l’art. 3 della Carta dei diritti fondamentali dell’Unione europea – che, da un lato, sancisce il principio di autodeterminazione individuale e, dall'altro, lo limita in relazione alla tutela della dignità umana – e la legge n. 219/2017 in materia di consenso informato e disposizioni anticipate di trattamento, nonché le posizioni assunte sul punto dal Comitato Nazionale di Bioetica e le norme deontologiche che presiedono all’esercizio della professione medica.

  Evidenti sono le intersezioni con il tema del consenso al trattamento dei dati personali in ambito medico, ove la diffusione dell’impiego di IA anche nella ricerca sanitaria, espone ad ardua prova la tenuta delle norme in materia di protezione dei dati personali, con riguardo in primo luogo al Regolamento UE 2016/679 (GDPR). Da un lato, la ricerca medica basata sull’IA necessita inevitabilmente di disporre di un numero di dati (sanitari) il più elevato possibile; dall’altro, le tecniche di machine learning facilitano la re-identificazione di dati originariamente anonimizzati e la creazione di dati personali derivati. Se, dunque, l’IA rappresenta un elemento “antagonista” rispetto ai diritti delle persone fisiche sui propri dati, d’altro canto la raccolta di dati sanitari e l’impiego di IA nella ricerca potrebbe comportare significativi vantaggi in termini di protezione della salute individuale e pubblica. Anche in ambito di data protection, quindi, l'IA solleva potenziali conflitti tra l'autodeterminazione individuale e altri interessi fondamentali, che trova solo una soluzione parziale nell'attuale quadro giuridico in materia di protezione dei dati; mentre la recente proposta di regolamento UE sullo spazio europeo dei dati sanitari (EHDS) appare maggiormente consapevole dei molteplici interessi in gioco, ma non fornisce soluzioni definitive.

  L'analisi muoverà, dunque, dalle problematiche concernenti il consenso dell'interessato come base giuridica per il trattamento di dati sulla salute nella ricerca computazionale, anche in relazione a principi quali la preventiva determinazione delle finalità del trattamento. A questo proposito, il progetto MED-ICAiL valuterà, inter alia, se il cosiddetto "consenso progressivo", già previsto dal considerando 33 del GDPR e da un recente parere del Garante della Protezione dei Dati Personali italiano (Rif. 9791886), sia o meno adeguato a rispondere alle esigenze di rapidità della ricerca medica nel rispetto della sicurezza giuridica e della tutela delle persone. D'altra parte, va altresì considerato che anche le basi giuridiche diverse dal consenso dell'interessato non sempre si rivelano di per sé sufficienti a realizzare un corretto equilibrio tra il diritto individuale al controllo dei dati personali e l'interesse alla salute pubblica e privata. Criticità, queste, che non sembrerebbero adeguatamente tenute in considerazione né dal Regolamento UE per un Artificial Intelligence Act, né dall'EHDS, ove quest'ultima subordina la conformità dei sistemi di IA (e quindi l'autorizzazione a immetterli sul mercato) al pieno rispetto della normativa europea sulla protezione dei dati (cfr. Racc. 49 e art. 44 EHDS).
 

Il progetto MED-ICAiL si basa su un triplice metodo di analisi:

-    teorico, volto a esaminare l’attuale quadro normativo – nazionale e sovranazionale, e in particolare europeo – rilevante per i temi oggetto di ricerca, anche mediante la mappatura e l’analisi delle fonti giuridiche afferenti le declinazioni del principio di autodeterminazione in ambito medico (consenso informato e consenso al trattamento di dati personali);

-    tecnico, basato su una profonda comprensione delle applicazioni dell'IA rilevanti nel settore sanitario, sia da un punto di vista medico che ingegneristico;

-    empirico, basato su casi concreti, anche al fine di individuare soluzioni immediatamente utili ai professionisti operanti in ambito sanitario e ai ricercatori.

  La ricerca si svilupperà, così, in una duplice direzione: una valutazione teorica del quadro normativo e un’analisi empirica della sua applicazione pratica, anche al fine di elaborare raccomandazioni politiche e suggestioni operative. Il tutto, mediante un confronto di natura anche multidisciplinare, che prevede:

i)    workshop con il coinvolgimento di esperti di Ingegneria Informatica e Biomedica per individuare le specifiche problematiche concernenti l’intersezione tra le applicazioni di IA in ambito medico e il principio di autodeterminazione;

ii)    interviste a esperti e ricercatori del settore sanitario al fine di registrare le oggettive criticità riscontrate allo stato attuale e quelle prevedibili;

iii)    sondaggi per stabilire il livello di consapevolezza e fiducia delle persone nelle tecnologie di IA.
 

Il progetto MED-ICAiL è volto al raggiungimento di quattro ordini di risultati:

a.    Miglioramento delle conoscenze: verranno classificati i sistemi basati sull'IA impiegati nell’esecuzione di prestazioni sanitarie e si identificheranno gli specifici problemi giuridici connessi da ciascuna tipologia di tali sistemi. Inoltre, si forniranno risultati empirici (in particolare, verranno sondate le opinioni di esperti e ricercatori operanti in ambito sanitario mediante interviste, nonché la percezione dei pazienti e le opinioni dei medici attraverso sondaggi) che potrebbero rappresentare una pietra miliare per ulteriori successive ricerche sulle medesime problematiche. Si contribuirà, così, sia alla teoria giuridica che al diritto sostanziale, mostrando come i concetti di autodeterminazione e consenso informato debbano essere modellati (almeno) per tenere il passo con gli sviluppi tecnologici nell’assistenza sanitaria. Inoltre, il progetto delineerà un approccio realistico, che tenga conto della complessità delle situazioni e del pluralismo soggettivo nell'adeguamento del quadro normativo.

b.    Nuovi strumenti (linee guida): il progetto mira ad avere un impatto, diretto e indiretto, sullo sviluppo delle tecnologie sanitarie, da un lato, rimuovendo alcuni degli ostacoli che frenano l’implementazione di sistemi basati sull’IA nel settore sanitario, e fornendo a ricercatori e medici linee guida e criteri che consentano loro di utilizzare le tecniche di IA in modo da evitare violazioni del diritto all’autodeterminazione dei pazienti in materia di trattamenti clinici e di tutela dei dati sanitari.

c.    Raccomandazioni di policy legislativa: il progetto fornirà raccomandazioni di policy destinate ai legislatori nazionali e dell'UE, per l’adozione di norme in grado di favorire la digitalizzazione della salute e l’implementazione dell’impiego di IA in ambito sanitario senza indebolire la protezione dei diritti individuali.

d.    Obiettivi di progresso sociale, economico e giuridico: i risultati della ricerca avranno un impatto rilevante su i) gli interessi collettivi nella promozione della salute e nella prevenzione delle malattie; ii) l’efficienza dei sistemi sanitari e assistenziali; iii) la competitività, la sostenibilità e l’innovazione dell’industria sanitaria dell’UE; iv) il processo decisionale degli organi legislativi.