(dal Blog dell’Accademia Alfonsiana)<\/p>\n\n\n\n
Recentemente, si \u00e8 appreso che il 27 marzo 2020 un drone turco aveva preso, autonomamente, la decisione di attaccare le truppe nemiche nella guerra libica. Il drone ha deciso di attaccare in base al suo algoritmo integrato, senza aspettarsi alcun intervento umano. Questa notizia ha evidenziato la possibilit\u00e0 di nuovi scenari di guerra e cambiamenti fondamentali nella natura dei conflitti. [1]<\/a>[2]<\/a><\/p>\n\n\n\n 1. Droni da guerra o “robot killer”<\/strong><\/p>\n\n\n\n Programmando un drone militare, si pu\u00f2 decidere che tipo di controllo umano si pu\u00f2 esercitare sul suo pilotaggio e apprendimento, arrivando persino a renderlo altamente autonomo. In base al tipo di controllo, si pu\u00f2 fare una distinzione tra robot d’attacco militari che possono agire in modalit\u00e0 autonoma (LAWS: Lethal Autonomous Weapon Systems<\/em>) e altri sistemi militari robotici (RMS: Robotized military systems<\/em>). [3]<\/a><\/p>\n\n\n\n \u00c8 importante distinguere tra un sistema automatizzato e un sistema autonomo. Entrambi eseguono azioni senza l’intervento diretto e tempestivo di un agente umano, ma le azioni del primo sono prevedibili e programmate, mentre quelle del sistema autonomo possono essere imprevedibili e potrebbero eventualmente superare gli obiettivi e le azioni inizialmente fissate dal programmatore umano.<\/p>\n\n\n\n Esistono anche sistemi robotici computerizzati che operano su reti di computer con tecniche simili a virus e potrebbero causare guerre informatiche con conseguenze gravi e imprevedibili. Le accuse di interferenza russa nelle elezioni presidenziali statunitensi del 2016 sono solo un esempio.<\/p>\n\n\n\n Gli RMS sono controllati a distanza. L’operatore umano \u00e8 l’unico che pu\u00f2 prendere la decisione finale di sparare. Una seconda categoria di RMS, pi\u00f9 vicina alle LAWS, sono i sistemi d’arma semi-autonomi, in grado di identificare i bersagli da soli, ma l’agente umano li monitora costantemente e pu\u00f2 interrompere le loro azioni in qualsiasi momento. \u00c8 ormai accettato che un uso eticamente valido di queste armi semi-autonome debba essere limitato a compiti difensivi come la difesa missilistica (Otto<\/em> 101).<\/p>\n\n\n\n La terza categoria sarebbe LE LAWS, che sono sistemi autonomi nel loro funzionamento e apprendimento. Ecco perch\u00e9 sono anche chiamate “LAWS innovative”. Ci\u00f2 solleva la questione di chi sar\u00e0 direttamente responsabile delle loro azioni e degli “effetti collaterali”. L’autonomia con cui agiscono, una volta attivati, li rende in grado di attaccare solo bersagli hardware, come i sistemi che bloccano le comunicazioni. Tuttavia, la linea tra il controllo umano e la completa assenza di tale controllo sta diventando sempre pi\u00f9 sfocata.<\/p>\n\n\n\n 1.1. Il difficile compito di programmare questi droni<\/strong><\/p>\n\n\n\n \u00c8 molto difficile programmare questi robot da guerra. Dotarli di regole etiche efficaci sembra attualmente impossibile, perch\u00e9 le circostanze reali sono sempre complesse e l’etica non pu\u00f2 essere ridotta alla logica o all’applicazione automatizzata degli standard. Inoltre, gli algoritmi risultanti presuppongono una scelta preventiva sui principi sottostanti e sul tipo di etica. Alcuni autori suggeriscono che l’etica utilitaristica sarebbe la pi\u00f9 facile da implementare in un algoritmo, in quanto consentirebbe al software di scegliere tra opzioni i cui effetti sarebbero quantificabili.<\/p>\n\n\n\n Le situazioni di guerra stanno diventando sempre pi\u00f9 complesse. Le parti in conflitto armato cercano di rendere difficile distinguere tra combattenti e civili. Inoltre, non \u00e8 facile determinare, soprattutto per un robot, se i soldati nemici sono gi\u00e0 fuori combattimento o se si sono arresi, nonch\u00e9 valutare la proporzionalit\u00e0 della risposta.<\/p>\n\n\n\n 1.2. I pericoli della guerra robotica<\/strong><\/p>\n\n\n\n Essere robotici non rende la guerra pi\u00f9 rispettosa della dignit\u00e0 umana, perch\u00e9 i robot armati agiscono freddamente, come un codice binario, senza piet\u00e0 o perdono. Alcuni autori sostengono che l’uso dei robot ridurrebbe significativamente il costo umano della guerra, evitando cos\u00ec i movimenti di protesta che condizionano l’azione del governo.<\/p>\n\n\n\n I paesi occidentali stanno gi\u00e0 guidando lo sviluppo delle loro armi in questa direzione. Ci\u00f2 potrebbe portare a una corsa agli armamenti che \u00e8 ancora pi\u00f9 difficile da controllare rispetto alla precedente Guerra Fredda. Papa Francesco ha chiarito che il semplice possesso di armi atomiche \u00e8 gi\u00e0 immorale. Questa dichiarazione pu\u00f2 essere applicata anche alle LAWS. [4]<\/a><\/p>\n\n\n\n I conflitti armati potrebbero anche intensificarsi, poich\u00e9 i benefici che i paesi aggressori cercano compenserebbero il costo ridotto che dovrebbero pagare per usare la forza armata. Con meno spese e meno proteste sociali, la decisione di andare in guerra sarebbe pi\u00f9 facile da prendere e le responsabilit\u00e0 pi\u00f9 difficili da determinare.<\/p>\n\n\n\n \u00c8 facile eliminare migliaia di persone quando sono gi\u00e0 state ridotte a figurine sullo schermo di un computer. Evitando ogni forma di relazione faccia a faccia, l’altro non viene percepito come un “alter ego” ma come un essere anonimo, estraneo a me stesso e di cui non mi sento responsabile.<\/p>\n\n\n\n 2. Basi per superare la nuova corsa agli armamenti<\/strong><\/p>\n\n\n\n Le LAWS sono giustificate dal fatto che si comporterebbero in modo pi\u00f9 razionale ed equilibrato rispetto agli umani. Alcuni autori sostengono che questi robot da combattimento ridurrebbero il numero di vite innocenti e commetterebbero meno crimini di guerra, non essendo soggetti a passioni umane come la paura, la vendetta o l’odio.<\/p>\n\n\n\n 2.1. Necessit\u00e0 di andare oltre la concezione antropologica negativa<\/strong><\/p>\n\n\n\n Gli argomenti usati per giustificare l’uso delle LAWS si basano su una concezione antropologica negativa (homo homini lupus<\/em>). Dobbiamo adottare una visione antropologica pi\u00f9 positiva. In effetti, gli argomenti di cui sopra per preferire le LAWS agli esseri umani possono anche essere usati nella direzione opposta.<\/p>\n\n\n\n Dal punto di vista cristiano, l’essere umano \u00e8 intrinsecamente sociale, capace di perdonare e mostrare compassione, perch\u00e9 \u00e8 dotato di un profondo senso morale e di una naturale inclinazione a non uccidere. Invece di delegare le questioni di vita e di morte alle macchine, dobbiamo assumerle responsabilmente, promuovendo sempre l’apertura al perdono e al dono di s\u00e9. Una pace duratura si costruisce sulla riconciliazione, sul dialogo, sul perdono, non sulla violenza e sull’oblio.<\/p>\n\n\n\n Solo l’uomo pu\u00f2 costruire una comunit\u00e0 di valori, fraterna e autenticamente umana. Non pu\u00f2 delegare questa attivit\u00e0 ai computer. Il freddo calcolo delle laws, basato sul principio della massima utilit\u00e0, potrebbe portarli a massacri. Inoltre, l’essere umano \u00e8 in grado di andare oltre la logica dell’equivalenza che governa la giustizia per abbracciare la gratuit\u00e0 e il perdono, aprendo cos\u00ec un futuro di speranza e di fraternit\u00e0.<\/p>\n\n\n\n 2.2. La dottrina della guerra giusta non \u00e8 pi\u00f9 valida<\/strong><\/p>\n\n\n\n La concezione antropologica negativa ha portato a considerare la guerra come inevitabile e quindi a giustificare la corsa agli armamenti. Questa dottrina \u00e8 anche usata per giustificare e regolarizzare le LAWS.<\/p>\n\n\n\n L’enciclica Pacem in terris<\/em> ha segnato il punto finale dei riferimenti ufficiali della Chiesa alla dottrina della guerra giusta, poich\u00e9 il potere distruttivo delle armi moderne impedisce che la guerra sia una risposta proporzionata al risarcimento dell’ingiustizia. Ci\u00f2 \u00e8 ancora pi\u00f9 evidente nella guerra robotica, poich\u00e9 le LAWS non sono in grado di applicare correttamente il principio di proporzionalit\u00e0, che richiede la considerazione di molti elementi. Inoltre, la guerra oggi non \u00e8 un male minore, ma il male pi\u00f9 grande ([5]<\/a>FT <\/em>258).<\/p>\n\n\n\n La Chiesa insegna che la guerra “\u00e8 sempre un fallimento dell’umanit\u00e0” (FT <\/em>261), “la negazione di tutti i diritti e una drammatica aggressione contro l’ambiente” (FT<\/em> 257). La guerra robotica accentua questa disumanizzazione e quindi non pu\u00f2 essere promossa come soluzione. Per spezzare la spirale della violenza, dobbiamo superare gli atteggiamenti che l’hanno generata e le ingiustizie che la alimentano.<\/p>\n\n\n\n Esistono gi\u00e0 strumenti alternativi per ristabilire la pace e la giustizia senza ricorrere alla guerra. Si pu\u00f2 quindi dire che attualmente non esistono pi\u00f9 le condizioni che potrebbero giustificare l’applicazione di questa dottrina. Un argomento simile \u00e8 stato usato per rifiutare la pena di morte. Papa Francesco insegna che entrambi (la guerra e la pena di morte) “sono risposte false, che non risolvono i problemi posti, e che alla fine aggiungono solo nuovi fattori di distruzione” (FT<\/em> 255).<\/p>\n\n\n\n Conclusione<\/strong><\/p>\n\n\n\n Quando le macchine autonome gestiscono aspetti importanti della vita sociale, c’\u00e8 il rischio di disumanizzare le relazioni e indebolire la fratellanza universale. Ogni guerra \u00e8 disumana, ma lo sar\u00e0 ancora di pi\u00f9 se chi la compie sono macchine autonome e nessuno si assume la responsabilit\u00e0 diretta delle proprie azioni.<\/p>\n\n\n\n Qualsiasi sistema d’arma con capacit\u00e0 letale deve rimanere sotto l’assoluta supervisione dell’uomo. Pertanto, lo sviluppo delle LAWS che sia completamente autonomo nelle loro azioni e apprendimento deve essere proibito.<\/p>\n\n\n\n La violenza provoca pi\u00f9 violenza. Solo la gratuit\u00e0 e il perdono possono far nascere un’autentica fraternit\u00e0 universale.<\/p>\n\n\n\n P. Mart\u00edn Carbajo Nu\u00f1ez, OFM<\/em><\/em><\/p>\n\n\n\n [1]<\/a> Testo completo e dettagliato con abbondanti riferimenti bibliografici in: Carbajo Nunez M., \u00abLa guerre des drones autonomes”, in Verit\u00e0 e La Vita<\/em> 280 (2022). In italiano: Laurentianum<\/em> 63\/1 (2022).<\/p>\n\n\n\n [2]<\/a> Apps P., \u00abNew era of robot war may be underway unnoticed\u00bb, Reuters (10.06.2021), in\u00a0Internet<\/em>\u00a0: https:\/\/www.reuters.com\/article\/apps-drones-idUSL5N2NS2E8.<\/p>\n\n\n\n [3]<\/a> Cf. Otto P. \u2013 Gr\u00e4f E.,\u00a03th1cs. A reinvention of ethics in the digital age<\/em>?, [Otto<\/em>], Irights Media, Berlin 2017.<\/p>\n\n\n\n
\n\n\n\n