Publicado en: Blog personal
Por: Ismael Pérez Vigil
La encíclica Magnifica humanitas de León XIV deja innumerables mensajes y abarca múltiples aspectos doctrinarios, por lo que seleccioné aquellos que más llamaron mi atención y que considero los más importantes. Comencé en mi artículo anterior (ver https://tinyurl.com/3mp8b6z7) con su carácter de encíclica social; en la disyuntiva que plantea en «…levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos» (§1) y la influencia agustiniana en su invitación a construir «La Ciudad de Dios»; León XIV reafirma, además, que la persona humana es el centro de la fe cristiana; y, por último, destaqué su síntesis sobre la Doctrina Social de la Iglesia, que es para León XIV lo fundamental de su encíclica.
Concluiré ahora con los otros dos temas que también llamaron mi atención: la Inteligencia Artificial y la Verdad y la Educación, contenidos en los capítulos tres y cuatro de la encíclica. Recuerdo que citaré los textos de la encíclica entre comillas y letra cursiva, e indicando el número del párrafo (§) entre paréntesis.
La Inteligencia Artificial (IA)
Advierte el Papa que no pretende hacer un tratado sobre la IA, que su preocupación fundamental es la persona humana: “… que se proteja el primado de la persona… que sea siempre la inteligencia humana… la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites.” (§97) León XIV recuerda que así como su antecesor —León XIII, en Rerum novarum en 1891— no rechazaba la industrialización, sino que destacaba: “…la primacía del trabajo humano sobre cualquier lógica puramente productiva o financiera, con la consiguiente atención a las personas y a las familias más expuestas a la explotación…” (§30), de igual manera, Magnifica humanitas considera que para la protección de la persona humana “…en el tiempo de la IA, debemos volver a reflexionar sobre el bien común, el destino universal de los bienes, la subsidiariedad y la justicia social.” (§46)
León XIV no desecha ni se opone al uso de la tecnología y considera que la “IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana.” (§90) Para León XIV tanto la IA, como la robótica, la nanotecnología y las ciencias en general, son “una gran ayuda para el desarrollo humano integral… [que]… necesitan un nuevo marco espiritual, ético y político…” (§93); pero advierte contra sus desviaciones y uso, y critica la idea de que el poder digital pretenda dominar la vida humana. Preocupa a León XIV, sobre todo, quién ejerce el control de la tecnología: “el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación.” (§95) Y sentencia finalmente: “la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos.” (§108)
Sobre la IA, la encíclica advierte que como corre el riesgo de una rápida obsolescencia y que quienes la desarrollan en realidad saben poco sobre su funcionamiento −pues sus elementos fundamentales siguen siendo desconocidos− de allí “…la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual.” (§98) La encíclica plantea un tema que sin duda es objeto de múltiples discusiones en artículos, foros y eventos, como lo son las limitaciones de la IA cuando se le compara con la inteligencia humana, pues: “…las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias.” (§99) No niega, entonces, que las diferentes formas de IA ayudan y mejoran nuestras vidas, simplifican las tareas al facilitar el procesamiento de información y la investigación; pero pide que no olvidemos que sus propuestas “…reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos.” (§100)
Tres aspectos a reflexionar sobre la IA y una síntesis
Pudiera seguir enumerando virtudes y advertencias de la encíclica; pero las resumo en tres aspectos fundamentales sobre los cuales León XIV nos invita a reflexionar:
- Uno: El efecto sobre el ambiente, dada la cantidad de energía y agua que se requiere para el funcionamiento de la IA y las actuales tecnologías.
- Dos: El confiar a sistemas automatizados, meramente técnicos, implica reducir a esos aspectos decisiones que afectan derechos, oportunidades, acceso a créditos y servicios, y, más importante aún, la reputación y libertad de seres humanos. Es lapidario al señalar que: “Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas.” (§103) Sobre este aspecto ya me he referido en mi artículo anterior, ya citado, al hablar del posthumanismo y transhumanismo, pero resumo el tema con una frase de León XIV que advierte que le preocupa que “…la revolución digital y la IA hagan parecer justa y normal una visión antihumana, según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto y controlarlo todo.” (§112)
- Tres: Preocupado por la paz y el armamentismo, nos recuerda y precisa el término “desarmar”, empleado también por el Papa Francisco; y por “desarmar” León XIV implica romper la equivalencia “…entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida.” (§110), eliminando el uso de la IA de la competencia armamentística o económica y dotándola de un marco ético.
En síntesis, el planteamiento de la Iglesia católica es que la IA debe estar estrictamente subordinada a la dignidad humana, evitando que el criterio algorítmico sustituya al juicio moral humano; Magnifica humanitas es enfática en advertir en contra de que se pretenda, a través de la IA, la nanotecnología y la técnica en general, superar el límite humano. De igual manera, al no ser la IA moralmente neutra, advierte del peligro de que la concentración del poder digital en manos de grandes actores privados genere asimetrías que amenacen al ser humano, la justicia social y el bien común.
Democracia y educación
Dada la innegable crisis actual por la que atraviesa la democracia en el mundo occidental, el Papa en su primera encíclica no podía estar ausente de esta situación; y así, en el capítulo cuarto, nos confronta con lo que considera esencialmente humano y la transformación que están sufriendo la verdad, el trabajo y la libertad en la crisis de la democracia.
Para León XIV es claro que la democracia “…es en sí misma un instrumento de participación en el bien común.” (§134) y la verdad es entonces algo primordial, “…un elemento esencial para la democracia” (§134). Citando a Hannah Arendt, advierte que “El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo…” (§134) Advierte entonces contra dos peligros: uno, relacionado con lo que ya hemos hablado del dominio de la IA por parte de ese sector —los “grandes actores económicos”— y su capacidad para imponer su “verdad”, su visión de la realidad, del mundo, sector que “…impone sutil o abiertamente lo que quiere que los demás consideren como verdadero.” (§133). El otro peligro, relacionado con el tema de la verdad en lo que hemos llamado la era de la “posverdad”, se refiere a la utilización del poder sobre los medios, sobre las redes sociales e internet, que “…pasa a formar parte de la vida de las personas, sobre todo de los más jóvenes.” (§135) De allí que proponga Magnifica humanitas una “Ecología de la Comunicación” —párrafos §137 y §138— en la que, sin “…demonizar ni idolatrar los medios… [sino considerando que]… la verdad es un bien común y no una propiedad de quienes tienen poder o visibilidad.” (§137), propone que se dicten leyes que hagan transparentes los criterios de selección de contenidos, protejan los datos y la integridad de las personas. Advierte igualmente que eso implica un periodismo serio donde prive la verificación de la información; e incluye a la propia Iglesia y a las comunidades cristianas, para que asuman una responsabilidad estricta de vigilancia y transparencia ante sus propias verdades incómodas e injusticias pasadas.
De esta manera, llega León XIV en su encíclica a delinear “Una alianza educativa para la era digital”, ante la preeminencia creciente de la IA, que requiere educar a los jóvenes para decidir “…cuándo y para qué no utilizar la IA” (§140) y advierte sobre los riesgos psicológicos y psiquiátricos de la exposición precoz y sin supervisión de los menores a las redes sociales: adicciones, ciberacoso, explotación sexual, etcétera. Para ello propone una alianza política, legislativa y familiar que ponga límites de edad y responsabilice a los proveedores de las plataformas: “Es necesario oponerse, con decisiones públicas de largo alcance, a los intereses inmediatos de las plataformas —concentradas en pocas manos— cuando estos entran en conflicto con el bien de los menores… sin olvidar que… Al mismo tiempo, es necesario educar a los niños, adolescentes y jóvenes para que aprendan a reconocer las manipulaciones, a defender su propia dignidad y a respetar la de los demás, también en los entornos digitales.” (§142)
Para ello resalta el “Rol central de la escuela” y plantea, para ella, tres retos específicos: el sociopolítico, combatir las desigualdades en el acceso a una educación de calidad; el pedagógico, mediante la formación continua de los docentes para que enseñen a usar la tecnología de forma responsable; y el intelectual, promoviendo lo que denomina una «higiene de la atención» —reflexión, lectura, análisis— para evitar la fragmentación del conocimiento y la deshumanización de los alumnos.
Conclusión
Magnifica humanitas, a través del análisis de la era digital y partiendo de las figuras bíblicas de Babel y Jerusalén, nos plantea que la inteligencia artificial no es neutra y exige sustituir la “cultura del poder” y la ilusión transhumanista por una civilización que prefiera la verdad, el trabajo y la libertad mediante un compromiso ético y un itinerario de vida centrado en la dignidad humana.
En otras palabras, el Papa León XIV, a través de su encíclica, sostiene que la revolución de la IA nos plantea elegir, una vez más, entre construir Babel o Jerusalén; es decir, entre una técnica puesta al servicio del dominio, el poder y la autosuficiencia humana, o una técnica subordinada a la verdad, la dignidad del trabajo y la libertad de la persona, respondiendo a ese desafío no con recetas técnicas, sino con un itinerario centrado en la fraternidad y el bien común.
