Di recente, alcuni dipendenti dell\u2019azienda di auto elettriche Tesla hanno accusato il fondatore e amministratore delegato (CEO)[i], Elon Musk, di aver subordinato la sicurezza delle sue auto ad altri criteri commerciali e di non aver sufficientemente avvertito delle limitazioni e rischi del sistema di guida autonoma. I denuncianti affermano che questo sistema \u00e8 stato pubblicizzato erroneamente, come se fosse in grado di fare a meno del conducente umano (livello 5)[ii].<\/p>\n\n\n\n
Verso una guida completamente autonoma<\/strong> Tesla non \u00e8 stata la prima a provare a procurarsi auto con guida autonoma. Gi\u00e0 nel 1930 la General Motors realizzava un\u2019auto del genere che necessitava di strade con trasmettitori fissi. L\u2019auto \u00e8 stata guidata captando, via radio, i campi elettromagnetici generati da questi trasmettitori. Nel 1977, l\u2019azienda giapponese Tsukuba introdusse un\u2019auto che non necessitava di strade appositamente adattate, poich\u00e9 si guidava autonomamente utilizzando due telecamere. Attualmente, la domanda di questi veicoli sta crescendo di oltre il 16% all\u2019anno in tutto il mondo, sebbene stia crescendo anche l\u2019opposizione ad esse. Molte aziende automobilistiche prevedono di mettere in vendita veicoli autonomi nei prossimi decenni[vi].<\/p>\n\n\n\n La difficile programmazione<\/strong> I dilemmi del tram[ix] e del casco[x] sono buoni esempi. Se casi di questo tipo richiedono sempre un attento discernimento quando la decisione viene presa da una persona umana, \u00e8 ancora pi\u00f9 difficile sviluppare un algoritmo che possa guidare queste macchine autonome nel prendere decisioni. Quella che per il conducente pu\u00f2 essere una decisione circostanziale, soggetta all\u2019improvvisazione del momento, cambia significato quando viene inserita con largo anticipo in un algoritmo, poich\u00e9 le decisioni programmate saranno premeditate e, quindi, soggette ad un maggior carico di responsabilit\u00e0.<\/p>\n\n\n\n Nella fabbricazione e nella programmazione di un veicolo deve essere previsto il successivo coinvolgimento della persona che lo guider\u00e0, affinch\u00e9 possa esercitare la propria autonomia morale. Nello specifico, dovrebbe essere pi\u00f9 facile per il conducente scegliere il tipo di etica su cui il veicolo prender\u00e0 le sue decisioni. Allo stesso modo, le altre possibili parti interessate dovrebbero poter partecipare. (Robot-2, 23). Ad esempio, \u00e8 stato suggerito che, per raggiungere questo obiettivo, sarebbe conveniente che l\u2019acquirente risponda ad un precedente questionario e, in base alle sue risposte, il veicolo potrebbe essere riprogrammato.<\/p>\n\n\n\n In ogni caso, la complessit\u00e0 delle situazioni che il veicolo dovr\u00e0 affrontare provoca numerose incertezze. Allo stato attuale della tecnologia, che \u00e8 ancora altamente migliorabile, si ritiene essenziale che la programmazione di questi veicoli determini come e quando l\u2019algoritmo deve trasferire al conducente umano il processo decisionale finale nei casi complessi.<\/p>\n\n\n\n Infortuni e responsabilit\u00e0<\/strong> Difficile definire le responsabilit\u00e0 in caso di incidenti, decessi, danni[xii]. Normalmente il proprietario del veicolo \u00e8 il primo responsabile del danno causato, nello stesso modo in cui, quando un cane morde un pedone, \u00e8 il suo proprietario che deve assumersi la responsabilit\u00e0 (Robot-2, 68). Tuttavia, la questione \u00e8 complessa. Deve essere analizzato se sia dovuto agli algoritmi che il veicolo ha incorporato, a difetti di fabbricazione o a guasti nel sistema di allerta. Attualmente sono in aumento le segnalazioni di incidenti causati da guasti al sistema di guida autonoma[xiii].<\/p>\n\n\n\n Queste sono solo alcune delle tante domande etiche che le auto a guida autonoma sollevano oggi. In questo e in altri ambiti \u00e8 necessario un dibattito ampio e sereno sulle tante tecnologie legate alla robotica e all\u2019intelligenza artificiale che sono sempre pi\u00f9 presenti nella nostra societ\u00e0.<\/p>\n\n\n\n P. Martin Carbajo Nu\u00f1ez, OFM<\/em><\/p>\n\n\n\n [i]<\/a> Cf. https:\/\/www.tesla.com\/elon-musk<\/a>. CEO (Chief Executive Officer).<\/p>\n\n\n\n [ii]<\/a> El nivel 5 se refiere a una autonom\u00eda completa, que har\u00eda innecesaria la intervenci\u00f3n del conductor (Full Self Driving, F.S.D.). Cf. https:\/\/www.km77.com\/reportajes\/varios\/conduccion-autonoma-niveles.<\/p>\n\n\n\n [iii]<\/a> Elon Musk hab\u00eda declarado en 2016: \u00abThe basic news is that all Tesla vehicles leaving the factory have all the hardware necessary for Level 5 autonomy\u00bb. Citado en Metz Cade \u2013 Boudette Neal E., \u00abInside Tesla as Elon Musk Pushed an Unflinching Vision for Self-Driving Cars\u00bb, in The New York Times<\/em>, [NYT<\/em>],(6.12.2021); Internet: <\/em>https:\/\/www.nytimes.com\/2021\/12\/06\/technology\/tesla-autopilot-elon-musk.html.<\/p>\n\n\n\n [iv]<\/a> Boudette Neal E., \u00abA new Tesla safety concern: Drivers can play video games in moving cars\u00bb, in NYT <\/em>(12.12.2021); Internet:<\/em> https:\/\/www.nytimes.com\/2021\/12\/07\/business\/tesla-video-game-driving.html<\/p>\n\n\n\n [v]<\/a> Baker Peter C., \u00abI think this guy is, like, passed out in his Tesla\u00bb, in NYT <\/em>(27.11.2019); Internet: <\/em>https:\/\/www.nytimes.com\/2019\/11\/27\/magazine\/tesla-autopilot-sleeping.html?searchResultPosition=7<\/p>\n\n\n\n [vi]<\/a> El a\u00f1o 2019, la empresa Uber estaba ya ofreciendo servicios con coches de conducci\u00f3n aut\u00f3noma en la ciudad estadunidense de Pittsburgh. Cf. Benanti Paolo, \u00abIntelligenze artificiali, robot, bio-ingegneria e cyborg: nuove sfide teologiche?\u00bb, in Concilium <\/em>55\/3 (2019) 46-61, aqu\u00ed 48.<\/p>\n\n\n\n [vii]<\/a> \u00abAlgorithms that automate complex ethical decision making\u00bb. Millar Jason, \u00abEthics settings for autonomous vehicles\u00bb, in Lin Patrick \u2013 Jenkins Ryan \u2013 Abney Keith, (edd.) Robot ethics 2.0. From autonomous cars to artificial intelligence<\/em>, [Robot-2<\/em>],Oxford Univ. Press, Oxford 2017, 22.<\/p>\n\n\n\n [viii]<\/a> Loh Janina, \u00abResponsabilit\u00e0 vecchie o responsabilit\u00e0 nuove? I pro e i contro di una trasformazione della responsabilit\u00e0\u00bb, in Concilium <\/em>55\/3 (2019) 111-121, aqu\u00ed 118.<\/p>\n\n\n\n [ix]<\/a> This dilemma was developed by philosopher Philippa Foot in 1967 and adapted by Judith Jarvis Thomson in 1985. Cf. https:\/\/theconversation.com\/the-trolley-dilemma-would-you-kill-one-person-to-save-five-57111<\/p>\n\n\n\n [x]<\/a> Cf. https:\/\/www.youtube.com\/watch?v=ixIoDYVfKA0&t=8s<\/p>\n\n\n\n [xi]<\/a> https:\/\/gerberinjurylaw.com\/autonomous-vehicle-statistics\/<\/p>\n\n\n\n
Nella sua pubblicit\u00e0, Tesla riconosce esplicitamente i limiti del sistema di guida autonoma, probabilmente per motivi legali, e avverte che il guidatore deve essere sempre pronto a prendere il controllo del veicolo. Tuttavia, a livello di percezione, \u00a0cerca di far credere agli utenti che il sistema \u00e8 sicuro[iii]. In vari modi, cerca di convincerli che questi veicoli sono in grado di operare in modo autonomo e affidabile, anche in situazioni complesse e imprevedibili. Questo sembra indicare, ad esempio, il fatto che Tesla abbia recentemente introdotto giochi per far divertire il guidatore mentre il veicolo lo porta a destinazione[iv]. Su Internet, infatti, stanno circolando video che mostrano i conducenti di questi veicoli apparentemente addormentati mentre viaggiano sulle autostrade californiane[v].<\/p>\n\n\n\n
<\/strong>Questi veicoli devono essere programmati per prendere decisioni in circostanze complesse che richiedono giudizi di valore[vii]. Questa programmazione \u00e8 difficile, poich\u00e9 ci sono molte possibili situazioni di incertezza morale. Chi dovrebbe decidere il tipo di etica (etica, utilitaristica, etica della virt\u00f9, ecc.) che guider\u00e0 le decisioni del veicolo e il suo eventuale apprendimento?[viii] Queste decisioni non possono essere lasciate solo al programmatore o al produttore, poich\u00e9 ci sono molti altri possibili coinvolti, attivamente e passivamente, ad esempio conducenti, utenti, passeggeri e pedoni (Robot-2, 35; 46).<\/p>\n\n\n\n
<\/strong>Questi veicoli vengono presentati come pi\u00f9 sicuri, ma, fino ad ora, il numero di incidenti in cui sono stati coinvolti non \u00e8 inferiore a quello dei veicoli convenzionali, anche se le conseguenze sono state meno gravi[xi].<\/p>\n\n\n\n
\n\n\n\n