Le scelte etiche di un robot chirurgo
Una notizia riportata dall’ANSA il 27 gennaio 2022 annuncia che negli Stati Uniti è stato eseguito, per la prima volta, un intervento chirurgico in totale autonomia da un robot.
Si tratta di un’operazione in laparoscopia per ricongiungere due estremità dell’intestino su quattro maiali. I risultati prodotti in questo modo risultano essere significativamente migliori rispetto a quelli di chirurghi umani che eseguono la stessa procedura.
È evidente che la precisione che un sistema robotico può raggiungere è superiore rispetto a quella di uomo: al robot non tremano le mani e non ha incertezze che possono influire negativamente sul buon esito dell’intervento. Credo però che alcune domande etiche si pongano immediatamente alla nostra riflessione.
E se il robot sbaglia?
Innanzitutto, la tipologia di interventi come quelli sull’intestino è molto rischiosa e imprevedibile, e richiede una grande capacità di adattamento e una forte prontezza a rispondere e reagire all’imprevisto. Siamo certi che un robot abbia almeno la stessa prontezza ed esperienza di un chirurgo umano? Sicuramente lo sviluppo del machine learning e dei sistemi d’intelligenza artificiale ha raggiunto notevoli traguardi, ma che dire di eventuali errori nel caso in cui è in gioco la salute, o anche la vita, di un essere umano?
Il patto di fiducia medico-paziente
Un altro aspetto altrettanto interessante riguarda la relazione medico-paziente, che come sappiamo è un elemento fondamentale nel processo di cura del malato. Nel caso di un intervento eseguito da un robot, e quindi in ultima analisi da un algoritmo che lo comanda, possiamo ancora parlare di relazione medico-paziente o ha più senso parlare di relazione medico-algoritmo-paziente? O addirittura di relazione algoritmo-paziente? Può sembrare una domanda pretestuosa, ma credo che possa aiutarci ad aprire un dialogo costruttivo che solleciti la riflessione sulla necessità di un’algoretica e di una governance per gli algoritmi informatici.
L’autonomia e la responsabilità delle macchine
Infine, nel caso in cui l’intervento vada male di chi è la responsabilità per il danno provocato? Del robot che lo ha eseguito? Del medico che ha preferito questo tipo di intervento? Del programmatore del robot? E nel caso in cui si possa riconoscere una qualche forma di responsabilità (o meglio di imputabilità) al robot, che cosa significa prevedere un qualche provvedimento disciplinare per esso? Possiamo davvero parlare di autonomia per un sistema robotico di questo tipo?
Va detto che quando un’azione è il risultato della cooperazione di diversi agenti non è immediato poter attribuire la responsabilità a uno solo di essi, e il problema diventa ancora più complesso quando oltre ad agenti umani intervengono anche agenti non umani.
È per questo motivo che in un contributo precedente parlavo della necessità di introdurre una nuova soggettività che descriva la cooperazione tra l’uomo e l’algoritmo e che chiamavo homo algorithmus.
Appare così sempre più evidente la necessità di una riflessione etica sulla realtà dei sistemi informatici, che da una parte tuteli la dignità umana e dall’altra non mortifichi lo sviluppo tecnologico che, come in questo caso, può dare contributi estremamente positivi alla buona riuscita di un intervento chirurgico.
Alessandro Picchiarelli è prete della diocesi di Assisi e insegna presso l’Istituto teologico di Assisi. Ha scritto Tra profilazione e discernimento. La teologia morale nel tempo dell’algoritmo (Cittadella, Assisi 2021).
