(del Blog de la Academia Alfonsiana)<\/p>\n\n\n\n
Recientemente, se supo que el 27 de marzo de 2020, un dron turco hab\u00eda tomado de forma aut\u00f3noma la decisi\u00f3n de atacar a las tropas enemigas en la guerra de Libia. El dron decidi\u00f3 atacar bas\u00e1ndose en su algoritmo incorporado, sin esperar ninguna intervenci\u00f3n humana. Esta noticia destac\u00f3 la posibilidad de nuevos escenarios de guerra y cambios fundamentales en la naturaleza de los conflictos. [1] [2]<\/p>\n\n\n\n
Al programar un dron militar, se puede decidir qu\u00e9 tipo de control humano se puede ejercer sobre su pilotaje y aprendizaje, llegando incluso a hacerlo altamente aut\u00f3nomo. En funci\u00f3n del tipo de control, se puede distinguir entre robots militares de ataque que pueden actuar en modo aut\u00f3nomo (LAWS: Lethal Autonomous Weapon Systems) y otros sistemas rob\u00f3ticos militares (RMS: Robotized Military Systems). [3]<\/p>\n\n\n\n
Es importante distinguir entre un sistema automatizado y un sistema aut\u00f3nomo. Ambos realizan acciones sin la intervenci\u00f3n directa y oportuna de un agente humano, pero las acciones del primero son predecibles y planificadas, mientras que las del sistema aut\u00f3nomo pueden ser impredecibles y posiblemente excedan los objetivos y acciones planteadas inicialmente por el programador humano.<\/p>\n\n\n\n
Tambi\u00e9n existen sistemas rob\u00f3ticos computarizados que operan en redes inform\u00e1ticas con t\u00e9cnicas similares a virus y podr\u00edan provocar guerras cibern\u00e9ticas con consecuencias graves e impredecibles. Las acusaciones de interferencia rusa en las elecciones presidenciales estadounidenses de 2016 son solo un ejemplo.<\/p>\n\n\n\n
Los RMS se controlan de forma remota. El operador humano es el \u00fanico que puede tomar la decisi\u00f3n final de disparar. Una segunda categor\u00eda de RMS, m\u00e1s cercana a LAWS, son los sistemas de armas semiaut\u00f3nomos, capaces de identificar objetivos por s\u00ed mismos, pero el agente humano los monitorea constantemente y puede interrumpir sus acciones en cualquier momento. Ahora se acepta que un uso \u00e9ticamente v\u00e1lido de estas armas semiaut\u00f3nomas debe limitarse a tareas defensivas como la defensa antimisiles (Otto 101).<\/p>\n\n\n\n
La tercera categor\u00eda ser\u00edan las LAWS, que son sistemas aut\u00f3nomos en su funcionamiento y aprendizaje. Por eso tambi\u00e9n se les llama “LAWS innovadoras”. Esto plantea la cuesti\u00f3n de qui\u00e9n ser\u00e1 directamente responsable de sus acciones y “efectos secundarios”. La autonom\u00eda con la que act\u00faan, una vez activados, les permite atacar \u00fanicamente objetivos de hardware, como sistemas que bloquean las comunicaciones. Sin embargo, la l\u00ednea entre el control humano y la ausencia total de ese control es cada vez m\u00e1s borrosa.<\/p>\n\n\n\n
1.1. La dif\u00edcil tarea de programar estos drones<\/strong><\/p>\n\n\n\n Es muy dif\u00edcil programar estos robots de guerra. Dotarlos de reglas \u00e9ticas efectivas parece actualmente imposible, porque las circunstancias reales son siempre complejas y la \u00e9tica no puede reducirse a la l\u00f3gica o a la aplicaci\u00f3n automatizada de est\u00e1ndares. Adem\u00e1s, los algoritmos resultantes presuponen una elecci\u00f3n previa sobre los principios subyacentes y el tipo de \u00e9tica. Algunos autores sugieren que la \u00e9tica utilitarista ser\u00eda la m\u00e1s f\u00e1cil de implementar en un algoritmo, ya que permitir\u00eda al software elegir entre opciones cuyos efectos ser\u00edan cuantificables.<\/p>\n\n\n\n Las situaciones de guerra son cada vez m\u00e1s complejas. Las partes en un conflicto armado intentan dificultar la distinci\u00f3n entre combatientes y civiles. Tampoco es f\u00e1cil determinar, especialmente para un robot, si los soldados enemigos ya est\u00e1n fuera de combate o se han rendido, as\u00ed como evaluar la proporcionalidad de la respuesta.<\/p>\n\n\n\n 1.2. Los peligros de la guerra rob\u00f3tica<\/strong><\/p>\n\n\n\n El hecho de ser rob\u00f3tico, usar robots, no hace que la guerra sea m\u00e1s respetuosa con la dignidad humana, porque los robots armados act\u00faan con frialdad, como un c\u00f3digo binario, sin piedad ni perd\u00f3n. Algunos autores sostienen que el uso de robots reducir\u00eda significativamente el costo humano de la guerra, evitando as\u00ed los movimientos de protesta que afectan la acci\u00f3n del gobierno.<\/p>\n\n\n\n Los pa\u00edses occidentales ya est\u00e1n liderando el desarrollo de sus armas en esta direcci\u00f3n. Esto podr\u00eda conducir a una carrera armamentista a\u00fan m\u00e1s dif\u00edcil de controlar que en la anterior Guerra Fr\u00eda. El Papa Francisco dej\u00f3 claro que la mera posesi\u00f3n de armas at\u00f3micas ya es inmoral. Esta declaraci\u00f3n tambi\u00e9n se puede aplicar a las LAWS. [4]<\/p>\n\n\n\n Los conflictos armados tambi\u00e9n podr\u00edan escalar, ya que los beneficios que buscan los pa\u00edses agresores compensar\u00edan el costo reducido que tendr\u00edan que pagar para usar la fuerza armada. Con menos gastos y menos protestas sociales, la decisi\u00f3n de ir a la guerra ser\u00eda m\u00e1s f\u00e1cil de tomar y las responsabilidades m\u00e1s dif\u00edciles de determinar.<\/p>\n\n\n\n Es f\u00e1cil eliminar a miles de personas cuando ya han quedado reducidas a simples im\u00e1genes o iconos en la pantalla de un ordenador. Evitando cualquier forma de relaci\u00f3n cara a cara, el otro no es percibido como un “alter ego” sino como un ser an\u00f3nimo, ajeno a m\u00ed mismo y del cual no me siento responsable.<\/p>\n\n\n\n Las LAWS se justifican por el hecho de que se comportar\u00edan de una manera m\u00e1s racional y equilibrada que los humanos. Algunos autores sostienen que estos robots de combate reducir\u00edan el n\u00famero de vidas inocentes y cometer\u00edan menos cr\u00edmenes de guerra, al no estar sujetos a pasiones humanas como el miedo, la venganza o el odio.<\/p>\n\n\n\n 2.1. Necesidad de ir m\u00e1s all\u00e1 de la concepci\u00f3n antropol\u00f3gica negativa<\/strong><\/p>\n\n\n\n Los argumentos utilizados para justificar el uso de las LAWS se basan en una concepci\u00f3n antropol\u00f3gica negativa (homo homini lupus). Necesitamos adoptar una visi\u00f3n antropol\u00f3gica m\u00e1s positiva. De hecho, los argumentos anteriores para preferir las LAWS a los humanos tambi\u00e9n pueden usarse en la direcci\u00f3n opuesta.<\/p>\n\n\n\n Desde el punto de vista cristiano, el ser humano es intr\u00ednsecamente social, capaz de perdonar y de mostrar compasi\u00f3n, porque est\u00e1 dotado de un profundo sentido moral y de una natural inclinaci\u00f3n a no matar. En lugar de delegar en las m\u00e1quinas los temas de la vida y la muerte, debemos asumirlos con responsabilidad, promoviendo siempre la apertura al perd\u00f3n y la entrega. Una paz duradera se construye sobre la reconciliaci\u00f3n, el di\u00e1logo, el perd\u00f3n, no sobre la violencia y el olvido.<\/p>\n\n\n\n S\u00f3lo el hombre puede construir una comunidad de valores, fraterna y aut\u00e9nticamente humana. No puede delegar esta tarea a las computadoras. El fr\u00edo c\u00e1lculo de las LAWS, basado en el principio de m\u00e1xima utilidad, podr\u00eda conducirlas a masacres. Adem\u00e1s, el ser humano es capaz de trascender la l\u00f3gica de la equivalencia que rige la justicia para abrazar la gratuidad y el perd\u00f3n, abriendo as\u00ed un futuro de esperanza y fraternidad.<\/p>\n\n\n\n 2.2. La doctrina de la guerra justa ya no es v\u00e1lida<\/strong><\/p>\n\n\n\n La concepci\u00f3n antropol\u00f3gica negativa ha llevado a considerar la guerra como inevitable y por tanto a justificar la carrera armamentista. Esta doctrina tambi\u00e9n se utiliza para justificar y regularizar las LAWS.<\/p>\n\n\n\n La enc\u00edclica Pacem in terris<\/em> marc\u00f3 el punto final de las referencias oficiales de la Iglesia a la doctrina de la guerra justa, ya que el poder destructivo de las armas modernas impide que la guerra sea una respuesta proporcionada a la reparaci\u00f3n de la injusticia. Esto es a\u00fan m\u00e1s evidente en la guerra rob\u00f3tica, ya que las LAWS no pueden aplicar correctamente el principio de proporcionalidad, que requiere la consideraci\u00f3n de muchos elementos. Adem\u00e1s, la guerra hoy no es el mal menor, sino el mal mayor ([5] FT 258).<\/p>\n\n\n\n La Iglesia ense\u00f1a que la guerra “es siempre un fracaso de la humanidad” (FT 261), “la negaci\u00f3n de todos los derechos y una agresi\u00f3n dram\u00e1tica contra el medio ambiente” (FT 257). La guerra rob\u00f3tica acent\u00faa esta deshumanizaci\u00f3n y, por lo tanto, no puede promoverse como una soluci\u00f3n. Para romper la espiral de la violencia, debemos superar las actitudes que la generaron y las injusticias que la alimentan.<\/p>\n\n\n\n Ya existen herramientas alternativas para restaurar la paz y la justicia sin recurrir a la guerra. Por tanto, puede decirse que en la actualidad ya no se dan las condiciones que podr\u00edan justificar la aplicaci\u00f3n de esta doctrina. Se ha utilizado un argumento similar para rechazar la pena de muerte. El Papa Francisco ense\u00f1a que ambas (la guerra y la pena de muerte) \u201cson respuestas falsas, que no resuelven los problemas planteados, y que al final s\u00f3lo a\u00f1aden nuevos factores de destrucci\u00f3n\u201d (FT 255).<\/p>\n\n\n\n Conclusi\u00f3n<\/strong><\/p>\n\n\n\n Cuando las m\u00e1quinas aut\u00f3nomas gestionan aspectos importantes de la vida social, existe el riesgo de deshumanizar las relaciones y debilitar la fraternidad universal. Toda guerra es inhumana, pero lo ser\u00e1 a\u00fan m\u00e1s si quienes la protagonizan son m\u00e1quinas aut\u00f3nomas y nadie se responsabiliza directamente de sus actos.<\/p>\n\n\n\n Cualquier sistema de armas con capacidad letal debe permanecer bajo la supervisi\u00f3n absoluta del hombre. Por lo tanto, debe prohibirse el desarrollo de las LAWS que sean completamente aut\u00f3nomas en sus acciones y aprendizajes.<\/p>\n\n\n\n La violencia genera m\u00e1s violencia. S\u00f3lo la gratuidad y el perd\u00f3n pueden hacer nacer una aut\u00e9ntica fraternidad universal.<\/p>\n\n\n\n P. Mart\u00edn Carbajo Nu\u00f1ez, OFM<\/em><\/p>\n\n\n\n [1]<\/a> Texto completo y detallado con muchas referencias bibliogr\u00e1ficas en: Carbajo N\u00fa\u00f1ez M., \u00abLa guerre des drones autonomes\u00bb, en Verdad y Vida<\/em> 280 (2022). En italiano : Laurentianum<\/em> 63\/1 (2022)..<\/p>\n\n\n\n [2]<\/a> Apps P., \u00abNew era of robot war may be underway unnoticed\u00bb, Reuters (10.06.2021), in Internet<\/em> : https:\/\/www.reuters.com\/article\/apps-drones-idUSL5N2NS2E8..<\/p>\n\n\n\n [3]<\/a> Cf. Otto P. \u2013 Gr\u00e4f E., 3th1cs. A reinvention of ethics in the digital age<\/em>?, [Otto<\/em>], Irights Media, Berlin 2017.<\/p>\n\n\n\n
\n\n\n\n