Por Justin McLellan, Catholic News Service
CIUDAD DEL VATICANO (CNS) — El Papa Francisco pidió a los líderes tecnológicos que midan el valor de sus innovaciones no en la potencia de procesamiento o el potencial de beneficio económico, sino en su capacidad para promover la dignidad humana.
En una reunión en el Vaticano el 27 de marzo con científicos, ingenieros, empresarios y abogados que trabajan en la industria tecnológica, el Papa reflexionó sobre el impacto social y cultural de la inteligencia artificial (IA).
Los beneficios de la inteligencia artificial y el aprendizaje automatizado para la humanidad sólo se harán realidad si los programadores actúan de una “manera ética y responsable” que respete la dignidad intrínseca de cada persona, dijo el Papa.
Pero expresó su preocupación por la falta de ese respeto cuando, por ejemplo, se utilizan programas informáticos de inteligencia artificial para dictar sentencias judiciales analizando los antecedentes penales de una persona y datos generalizados.
“El comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedad”, dijo. “No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza del cambio personal”.
Los expertos en tecnología temen que los datos utilizados para construir algoritmos en el software jurídico artificialmente inteligente puedan amplificar los prejuicios preexistentes en los sistemas de justicia, oprimiendo aún más a grupos ya marginados.
“Esos datos pueden estar contaminados por prejuicios e ideas sociales preconcebidas”, dijo el Papa. “El valor fundamental de una persona no puede medirse por un conjunto de datos”.
Señaló cómo las tecnologías digitales han incrementado la desigualdad mundial, tanto económica como en términos de influencia política y social. Esta desigualdad, dijo, tiene sus raíces en un “falso sentido de la meritocracia”.
“Se corre el riesgo de concebir la ventaja económica de unos pocos como ganada o merecida, mientras que la pobreza de muchos se considera, en cierto modo, culpa suya”, afirmó.
El Papa Francisco invitó a los líderes de la industria a considerar cómo sus innovaciones pueden crear una sociedad más igualitaria e inclusiva.
“¿Son nuestras instituciones nacionales e internacionales capaces de responsabilizar a las empresas tecnológicas del impacto social y cultural de sus productos? ¿Existe el riesgo de que el aumento de la desigualdad pueda comprometer nuestro sentido de la solidaridad humana y social?”, preguntó.
El Papa recordó los principios éticos en el desarrollo de la IA acordados por líderes religiosos, gubernamentales y de la industria tecnológica en el Vaticano: transparencia, inclusión, responsabilidad, imparcialidad, fiabilidad, seguridad y privacidad.
En enero, ejecutivos de Microsoft e IBM, así como representantes de las comunidades musulmana y judía, se reunieron en el Vaticano para firmar un documento en el que se pedía un enfoque centrado en el ser humano para el desarrollo de la IA y en el que se acordaron estos principios.
El documento abogaba por establecer “una perspectiva en la que la IA se desarrolle con un enfoque no tecnológico, sino por el bien de la humanidad y del medio ambiente”.
En la reunión de marzo, el Papa agradeció a los líderes tecnológicos que entablaran debates sobre el uso responsable de la tecnología “abiertos a los valores religiosos”, y afirmó que el diálogo entre creyentes y no creyentes sobre ciencia y ética “es un camino para la construcción de la paz y el desarrollo humano integral”.