Le leggi della robotica oggi
Esattamente cento anni fa, il 2 gennaio del 1920 a Petroviči, nella Russia in piena guerra civile, nacque Isaac Asimov. Romanziere molto fecondo, il contributo più significativo alla lettura mondiale lo diede scrivendo di fantascienza ed in particolar 
modo con il celebre Ciclo delle Fondazioni, una serie di racconti scritti tra il 1942 e il 1949.
Ad Asimov si debbono, oltre alle intuizioni straordinarie che oggi sono il nostro quotidiano digitale, anche le famose tre leggi della robotica. La prima legge recita: “Un robot non può recar danno a un essere umano né può permettere che a causa del proprio mancato intervento un essere umano riceva danno”. La seconda legge: “Un robot deve obbedire agli ordini impartiti dagli esseri umani purché tali ordini non contravvengano alla prima legge”. La terza legge: “Un robot deve proteggere la propria esistenza purché questo non contrasti con la prima e la seconda legge”.
Non solo le leggi, ma anche l'etica
Oggi queste leggi, di fatto mai implementate davvero nella robotica reale extra letteraria, diventano quanto mai interessanti. Vediamo perché con un esempio. Sono passati solo due anni, ma che in termini digitali è un abisso, da quando il 7 dicembre del 2017 è stata raggiunta una pietra miliare decisiva nel campo dell’intelligenza artificiale applicata ai giochi, al gioco considerato per eccellenza il più nobile, il più umano ed il più intelligente, quello degli scacchi.
Che macchina-sconfigga-uomo è già un fatto acquisito dal 1996, ma come macchina-sconfigga-macchina è oggi piuttosto interessante. Nel 2017 il programma AlphaZero di Google ha sconfitto Stockfish 8, il programma di scacchi campione del mondo nel 2016. Perché questo fatto in qualche modo ci deve interessare? Perché lo sconfitto era capace di calcolare 70 miliardi di posizioni al secondo mentre AlphaZero solo 80 mila posizioni al secondo. La vittoria è andata ad AlphaZero perché AlphaZero non ha imparato alcunché da nessun essere umano, non sono state inserite nella sua memoria né strategie, né partite già giocate in passato né nulla di simile.
AlphaZero ha vinto perché è un algoritmo che impara da solo, impara e crea, il verbo non è casuale, delle mosse considerate geniali. Il tempo impiegato per imparare a giocare così è stato di…quattro ore. Esatto quattro ore. Pur in presenza di alcune critiche di metodologia, sta di fatto che oggi, anzi due anni fa, una macchina si è rivelata non solo più efficace, ma più geniale perché non collegata in nessun modo al giocare umano.
Ecco dunque la necessità che vi siano delle leggi, universali e generali, che ci aiutino a governare tutto questo. Le linee guida della Commissione Europea sull’AI ci dicono che essa deve essere affidabile ed antropocentrica. Ma se un’AI non antropocentrica è più efficiente sarà capace il mondo economico a privarsene? Nella rivoluzione digitale dobbiamo porre l’etica e una cultura incentrata su di essa prima del profitto, dell’efficacia, dell’efficienza. Non esagera chi pensa che ne va della nostra stessa sopravvivenza.
Il ciclo delle fondazioni ebbe un sequel negli anni ’80, meno noto rispetto alla serie principale. Il racconto si dipana in mondi diversi, spesso governati e gestiti da robot i quali, pur in un finale aperto, preservano il mondo. La vorremmo come ulteriore profezia? Buon compleanno Isaac Asimov e grazie.
Luca Peyron è presbitero della Diocesi di Torino, coordinatore del Servizio per l’Apostolato digitale, docente di teologia all’Università Cattolica di Milano autore di Incarnazione Digitale (Elledici, Torino 2019).
