(del Blog de la Academia Alfonsiana)
Aunque la IA [inteligencia artificial] puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble velocidad y eficiencia, sus capacidades computacionales representan solo una fracción de las posibilidades más amplias de la mente humana. Por ejemplo, actualmente no puede replicar el discernimiento moral ni la capacidad de establecer relaciones auténticas (Antiqua et nova, n. 32).
Así lo afirma la reciente Nota Antiqua et nova, firmada conjuntamente por los Dicasterios para la Doctrina de la Fe y para la Cultura y la Educación. Una forma sintética, pero probablemente eficaz, de destacar una de las diferencias entre la inteligencia humana y la IA es que la primera posee «capacidades típicamente humanas de comprensión semántica y producción creativa» (ibid., n. 22), mientras que la segunda se limitaría a la esfera formal o sintáctica, incapaz de realizar nada más que cálculos lógico-matemáticos. Este es un tema útil para evitar ecuaciones demasiado precipitadas, aunque pueda entrar en conflicto con la experiencia que cada uno de nosotros puede tener con los chatbots de última generación, que en tareas «inteligentes» (es decir, que presuponen habilidades presumiblemente vinculadas a la comprensión) demuestran ser cada vez más eficientes, incluso más que sus competidores humanos.
Entonces, ¿el hecho de que la IA sea una «calculadora» sofisticada es solo una metáfora simplista que nos ayuda a caer en un complejo de superioridad que pronto será desmentido por la evidencia? Ahora bien, el hecho de que la IA sea de naturaleza «sintáctica» no significa que actúe rígidamente siguiendo reglas preestablecidas, lo que haría que sus resultados sean predecibles y repetitivos. Esta expectativa se basa quizás en cierta concepción dualista de la distinción entre el significante y el significado de una palabra: por un lado, estaría el signo, gráfico o hablado, de la palabra (el significante), de naturaleza puramente convencional, mientras que por otro lado estaría el contenido, la idea expresada por el término (el significado), accesible exclusivamente a una mente capaz de comprenderlo.
En realidad, el significado de los términos influye de alguna manera en el respectivo significante. De hecho, los diversos significantes son, sí, convencionales, pero su uso no es arbitrario, ya que está determinado precisamente por el significado de las palabras: esto significa que existe una red de relaciones entre las palabras en una lengua dada, por ejemplo, asociaciones del tipo sustantivo-adjetivo o capital-Estado, identificables a través de las recurrencias concretas en los diversos textos. En otras palabras, si se logra reconstruir de alguna manera las relaciones mencionadas, es posible realizar algunas operaciones de naturaleza «semántica» incluso sin tener conciencia ni pensamiento. Por lo tanto, en el ámbito de la automatización, lo que más se acerca a la comprensión del significado de un término es identificar la red de relaciones en la que se inserta. Por ejemplo, si consideramos un transformador (el algoritmo que impulsa los chatbots avanzados actuales), este asocia puntuaciones numéricas a ciertas palabras, lo que permite reconstruir su contexto y sus relaciones con otros términos (una técnica conocida como «incrustación de palabras»). Esta operación no es nada sencilla, dado que el contexto de una palabra o una oración puede ser muy amplio y complejo, incluso jerárquicamente estructurado. Una vez resuelto el problema del contexto, se procede al cálculo de probabilidad y a la construcción de oraciones.
Estas técnicas permiten a los algoritmos, por ejemplo, realizar resúmenes inteligentes de un pasaje o captar conceptos o ideas principales de un texto, lo que da la impresión de una comprensión real y no de una simple manipulación sintáctica. Sin embargo, no es así: las operaciones que realiza son sintácticas en el sentido de que el algoritmo trabaja en términos de cálculos y asociaciones formales y extrínsecos, y la eficacia de este proceso se ve afectada en gran medida por el entrenamiento y el posterior ajuste, precisamente para determinar la red correcta de relaciones entre las palabras de un idioma. ..//
Antes de perdernos en distinciones teóricas abstractas, es fundamental, por tanto, no perder el contacto con nuestra tradición humanística, con el sentido de «quiénes somos». Esta es la tarea fundamental de la educación, la instrucción y la formación en general (todos conceptos que se engloban en el término inglés «education»): despertar y cultivar el sentido de la persona y de la verdad, cuya pérdida constituye el verdadero peligro a tener en cuenta, ya que puede convertir a la IA en un arma letal que la humanidad utiliza contra sí misma, en lugar de una herramienta formidable para la humanización del mundo.
prof. A. Pizzichini
(se puede leer el texto completo en italiano, en el blog de la academia Alfonsiana)
