Io, Radiologo

La virgola non unisce, ma separa. Divide elementi che non possono legarsi, ma sono costretti a convivere. Nell’antologia di Isaac Asimov, l’uomo prende le distanze dalle macchine che, se pur costruite con grande similitudine, sono terribilmente differenti dagli esseri umani. Ma Io, Robot può anche significare la separazione secondo la prospettiva dell’androide. L’identità cosciente artificiale si distanzia dalla sua materia costituente. Io sono coscienza, un luogo che nessuno può valicare, nascosto dentro una corazza robotica che non ha nulla di diverso rispetto agli altri se non il compito di ospitare me.

E parlando di robot, la radiologia ne è stata invasa. Secondo un sondaggio del 2018, negli Stati Uniti 84 centri radiologi su 100 hanno scelto di adottare programmi di IA. Un radiologo robot non ragiona necessariamente come un umano, anzi. Grazie al deep learning è in grado di tessere una rete autonoma di associazioni digerendo immagini su immagini. Un gruppo di scienziati guidati dal radiologo Michael Lu, del Massachusetts General Hospital, ha condotto uno studio su oltre 85’000 radiografie al torace con un algoritmo in grado di calcolare il rischio di morte. Il 53% dei pazienti considerati ad alto rischio sono morte nell’arco di 12 anni, mentre il decesso in quelli a basso rischio è stato solamente del 4%. L’algoritmo possedeva le radiografie come unico dato a disposizione e i ricercatori si sono concentrati sulle parti di immagine utilizzate per i calcoli. Zone come la struttura delle mammelle o la circonferenza addominale erano pressoché ovvie ai medici, per via delle associazioni con malattie note. Altre, però, come la regione sotto alle scapole, non poteva suggerire nulla di noto. Secondo Michael Lu, un segno in quella zona può essere ricondotto alla forza del paziente con cui abbraccia il macchinario durante lo scatto, ma né lui né altri colleghi avrebbero mai potuto pensarci.

Altri prodigi post-umanistici appartengono ad alcuni algoritmi di Google, in grado di determinare il rischio cardiovascolare misurando solamente i cambiamenti legati alla pressione sanguigna con gli scanner della retina.

Oppure, sorprende la capacità di leggere le immagini bidimensionali della TAC come un unicum, quando il radiologo è costretto a ricostruire nella sua testa l’immagine dopo aver visto le foto singolarmente. La differenza di ragionamento tra un robot e un umano è definito “black box problem” (problema della scatola nera). L’IA opera in uno spazio oscuro nel quale non possiamo indagare. La ragione per cui vengono effettuate associazioni a volte ci è negata. In ambito medico, può capitare che non si conosca perfettamente il meccanismo di un farmaco che viene prescritto, perciò per molti non si tratta di un problema fondamentale. L’incapacità di comprendere le macchine, però, ci mette in difficoltà di fronte agli errori.

Illustrazione di Harry Campbell

Secondo un sondaggio del 2018, negli Stati Uniti 84 centri radiologi su 100 hanno scelto di adottare programmi di IA.

Quando si tratta di salute possono accadere situazioni spiacevoli e, in caso di diagnosi sbagliata, è complicato decidere a chi attribuire la responsabilità. È colpevole una macchina che non è in grado di spiegare il suo errore (ma nemmeno la sua ragione) o il medico che la utilizza come strumento? La startup IDx Technology di Coralville ha sviluppato un algoritmo in grado di prendere decisioni mediche senza l’ausilio di dottori. Si tratta di un programma in grado di individuare la retinopatia diabetica e, siccome nessun medico è coinvolto, l’azienda afferma di assumersi la responsabilità legale nel caso di errori.

Un altro problema legato alla black box, è dovuto al bias secondo cui gli algoritmi vengono alimentati. Un’IA è in grado di fornire risultati sulla base dell’associazioni dei dati forniti, ma quello che apprende non è necessariamente valido in situazioni diverse, come ad esempio centri radiologici che ospitano popolazioni di un’altra geografia con una differente densità di malattia. Secondo Cynthia Rudin, informatica alla Duke University, un algoritmo utilizzato fuori dall’insieme di immagini su cui è stato addestrato non sempre funziona.

Mentre gli enti regolatori come la FDA sono al lavoro per approvare i nuovi algoritmi in campo radiologico e le loro evoluzioni, un’altra paura emerge. I robot sostituiranno i radiologi? Di sicuro il progresso tecnologico porterà cambiamenti drastici in radiologia. Curtis Langlotz, radiologo della Stanford University afferma: “L’IA non sostituirà i radiologi, ma i radiologi che la usano sostituiranno quelli che non la usano.”

Approfondimento disponibile su le Scienze, Aprile 2020


Questo articolo fa parte della rubrica 404 Human Not Found

Questa immagine ha l'attributo alt vuoto; il nome del file è IA_copertina-1024x512.jpg

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *