Potenziali conseguenze inattese dell’uso di sistemi di intelligenza artificiale oracolari in medicina

Abstract

I sistemi di supporto decisionale basati sul machine learning (ML) in medicina stanno raccogliendo un crescente interesse grazie a recenti pubblicazioni che ne hanno evidenziato l’elevata accuratezza diagnostica in specifici contesti clinici. Tuttavia, agli ipotetici vantaggi derivanti dall’applicazione dei sistemi di intelligenza artificiale in campo medico, vanno criticamente affiancati alcuni potenziali inconvenienti. Alla luce dell’attuale mancanza di studi sugli effetti collaterali dell’applicazione di questi nuovi supporti decisionali nella pratica medica, in questo articolo sintetizziamo le principali conseguenze inattese che potrebbero derivare dalla loro applicazione estesa, soprattutto in relazione alla peculiare caratteristica dei sistemi di tipo “oracolare”, ovvero che si basano su modelli predittivi di ML in cui l’elevata accuratezza spesso è inversamente proporzionale alla trasparenza del percorso che conduce alle predizioni. Le principali conseguenze inattese correlate con l’impiego dei sistemi di ML variano dall’incertezza intrinseca dei dati impiegati per “addestrare” e alimentare questi sistemi, all’inadeguata esplicabilità delle loro risposte, al rischio di una eccessiva tendenza ad affidarsi a questi sistemi da parte dei loro utenti, con una loro conseguente dequalificazione e desensibilizzazione nei confronti del contesto clinico. Sebbene alcune di queste criticità possano essere difficili da valutare, data la scarsità a oggi di reali applicazioni di tali sistemi nella pratica medica, vogliamo richiamare l’attenzione su di esse al fine di dare un contributo di indirizzo per ricerche future e in supporto di politiche di approvazione dei sistemi di intelligenza artificiale che siano maggiormente informate e consapevoli, e che sappiano vedere oltre le valutazioni, spesso eccessivamente enfatiche, che riguardano questo tipo di tecnologia informatica a supporto della decisione medica.

Ähnliche Arbeiten