La IA sirva a la humanidad, no al poder de pocos: Papa León en su primera encíclica «Magnifica humanitas»
Dividida en cinco capítulos, más una introducción y
una conclusión, Magnifica humanitas parte de una premisa: la tecnología no es
una «fuerza antagónica respecto a la persona» (4), ni «un mal en sí misma» (9).
Sin embargo, «no es neutra, porque asume el rostro de quien la concibe, la
financia, la regula y la utiliza». De ahí el llamamiento del Pontífice a
«construir en el bien» y a «permanecer humanos», siguiendo la lógica de la
corresponsabilidad valiente, de la subsidiariedad, de la comunión, para que «el
mundo pueda reconocer… en el corazón del ser humano el lugar donde Dios desea
habitar» (16).
TEXTO
COMPLETO DE LA ENCÍCLICA "MAGNIFICA HUMANITAS"
La Doctrina Social de la Iglesia es teología de la
comunión
El primer capítulo —Un pensamiento dinámico fiel al
Evangelio— repasa la Doctrina Social de la Iglesia (DSI) en el magisterio
reciente y en el Concilio Vaticano II, poniendo de relieve «su carácter
dinámico» (17). Lejos de ser «un manual de principios y normas que aplicar», la
DSI es más bien «un camino de discernimiento comunitario», una «teología de la
comunión en la historia» (27) que orienta la lectura de los acontecimientos a
la luz del Evangelio. León XIV recuerda el pensamiento de sus predecesores:
desde Pío XII —el primero en emplear la expresión «Doctrina social de la
Iglesia» en la exhortación apostólica Menti nostrae de 1950— hasta el Papa
Francisco, pasando naturalmente por la Rerum novarum de 1891, definida como
«hito en la evolución del magisterio social» (30). En sus respectivas épocas,
cada sucesor de Pedro «ha puesto de relieve diferentes aspectos de un único
patrimonio: la dignidad de la persona, el valor del trabajo, la destinación
universal de los bienes, la solidaridad y la subsidiariedad, el cuidado de la
creación, la centralidad de la paz y la fraternidad» (45).
Proteger
la dignidad humana: la persona no es un recurso que se pueda explotar
En el segundo capítulo, León XIV enumera los
Fundamentos y principios de la Doctrina social de la Iglesia: entre los
primeros, incluye la dignidad de la persona, creada a imagen y semejanza de
Dios. Es necesario recordarlo, ya que «la presión de nuevas ideologías y de
determinados intereses muy poderosos» puede reducir a la persona a «un recurso
que se usa y se explota» o a «lo que realiza o produce» (51). Por el contrario,
«la dignidad fundamental de cada persona no se adquiere ni se merece, ni
necesita ser demostrada» (53). Un segundo fundamento de la Doctrina Social de
la Iglesia es la inviolabilidad de los derechos humanos, entre los cuales el
primero es el derecho a la vida «desde la concepción hasta su final natural»: a
este respecto, León XIV define el aborto provocado, el asesinato de inocentes y
la eutanasia como «decisiones gravemente ilícitas» (55). El tercer fundamento
es el reconocimiento de los derechos de las minorías, con especial atención a
las mujeres: en su favor, el Pontífice pide «decisiones concretas» en las
leyes, en el trabajo, en la educación, en las responsabilidades sociales y
políticas, para que sean verdaderamente escuchadas y valoradas (57).
Es inmoral e inaceptable eliminar o someter a una
nación
En cuanto a los principios de la DSI, León XIV señala
cinco: el primero es el bien común, «forma social de la dignidad reconocida a
cada uno» (59). En un punto el Papa es particularmente firme: «La promoción del
bien común no puede separarse nunca del respeto al derecho de los pueblos a
existir, a custodiar su propia identidad y a contribuir con su originalidad a
la familia de las naciones». En consecuencia, «cualquier intento o proyecto de
eliminar o someter a una nación es gravemente inmoral y, por tanto,
inaceptable» (64).
La
tecnología no debe concentrarse en manos de unos pocos
El segundo principio se refiere a la destinación
universal de los bienes: aquí y en otros puntos de la encíclica, León XIV
insiste en la necesidad de que los conocimientos y las tecnologías no se
concentren en manos de unos pocos, alimentando la brecha entre los incluidos y
los excluidos de la revolución digital (67). De ello se derivan el tercer y el
cuarto principio, a saber, la subsidiariedad (68) —que exige superar el
paternalismo y el asistencialismo en favor de la corresponsabilidad— y la
solidaridad (73), «principio y virtud» que se opone a la indiferencia y tiene
en cuenta a los pueblos y a las generaciones futuras.
La
justicia social y la «prueba de fuego» de los migrantes
El quinto principio de la DSI señalado por el Papa es
la justicia social: en la era digital, debe garantizar a todos, un acceso
equitativo a las oportunidades, proteger a los más frágiles, combatir el odio y
la desinformación, someter a control público el uso de los datos y las
tecnologías, «de modo que el criterio no sea solo el lucro, sino la dignidad de
cada persona y el bien de los pueblos» (80). León XIV señala en los migrantes,
los refugiados y los desplazados un «banco de pruebas decisivo» en este ámbito:
la forma en que la sociedad los trata demuestra «si la idea de justicia está
guiada por el miedo o por la fraternidad». De ahí el llamamiento tanto a
custodiar «el derecho a la esperanza» de quienes se ven obligados a partir,
garantizándoles vías seguras y legales, una acogida digna y la integración;
como a promover «el derecho a quedarse» de cada uno en su propia tierra en paz
y seguridad, abordando «las causas profundas» de las migraciones (81).
Los
abusos y el examen de conciencia para la Iglesia
El Pontífice entiende que los cinco principios
mencionados están dirigidos no solo a la sociedad, sino también a la Iglesia,
llamada a «un examen de conciencia»: el Papa exhorta a «depurar las relaciones
y las estructuras eclesiales de aquellas distorsiones que producen
desigualdades, opacidad y prevaricaciones». La invitación es a escuchar a las
«víctimas de abusos espirituales, económicos, institucionales, sexuales, de
poder y de conciencia», ya que ello «forma parte integrante de un camino de
justicia, que comprende el reconocimiento del daño, la reparación justa y la
prevención» (89).
Se
necesita un código ético compartido sobre la IA
El tercer capítulo —Técnica y dominio. La grandeza de
la persona humana ante las promesas de la IA— entra en el meollo del tema de la
inteligencia artificial. León XIV advierte contra el «paradigma tecnocrático»
ya denunciado por Francisco y por el cual toda elección viene dictada
exclusivamente por parámetros de eficiencia y beneficio (92). Por el contrario,
la tecnología más potente no es necesariamente la mejor: la IA puede imitar y
simular al hombre, pero no posee conciencia moral, empatía, capacidad afectiva,
relacional ni espiritual. Por lo tanto, es necesario abordar la IA con
sobriedad y vigilancia, manteniendo la claridad sobre las responsabilidades de
todas sus etapas (accountability) y apostando por políticas y marcos jurídicos
adecuados, una supervisión independiente y la educación de los usuarios. Sobre
todo, se necesita un código ético sometido a criterios de justicia social
compartida, porque «no sirve una IA más moral si esa moral la deciden unos
pocos» (107). Sin dejar de lado el impacto ambiental de las nuevas tecnologías,
que requieren grandes cantidades de energía y agua, afectando a las emisiones
de dióxido de carbono y dañando la Creación (101).
Desarmar
la IA y sustraerla de la lógica competitiva
Hay que «desarmar la IA» —insiste León XIV— para
sustraerla de la lógica de la competencia militar, económica y cognitiva; para
romper la equivalencia entre poder técnico y derecho a gobernar; para
sustraerla de los monopolios e impedir que domine al ser humano. Esta tarea es
ética, técnica y ecológica porque la IA «ya es el entorno en el que estamos
inmersos y el poder con el que debemos contar» (110). Se dedica un amplio
espacio a la crítica del transhumanismo y del poshumanismo, que interpretan el
progreso como la superación de los límites de lo humano. En cambio, el límite
no es un defecto que haya que eliminar, sino una dimensión constitutiva de la
persona, porque «el ser humano no florece a pesar del límite, sino a menudo a
través del límite» (118), reconociendo en la fragilidad y en la finitud lugares
en los que maduran la relación, el cuidado y la apertura a Dios y al otro.
Que el progreso de la técnica no haga retroceder el
corazón
Hay mucho en juego: hacer crecer la técnica eliminando
los límites de lo humano significa, de hecho, hacer retroceder el corazón.
Magnífica y, sin embargo, herida, la humanidad «no debe ser sustituida ni
superada». La tecnología puede aliviar sus sufrimientos y abrirle nuevas
posibilidades, pero no debe negarla en lo que le es propio: «la capacidad de
relación y de amor» (126). Ante la IA, la verdadera alternativa no está entre
el entusiasmo y el miedo, sino entre dos formas de construir el progreso: al
servicio de la persona y de los pueblos o de las lógicas de poder (129). Una
elección que nos concierne a todos: «la construcción de Babel o la de
Jerusalén», las dos «ciudades» del hombre y de Dios señaladas también por san
Agustín (130), comienza por cada uno.
Ecología
de la comunicación y centralidad de la escuela
En el cuarto capítulo – Custodiar lo humano en la
transformación. Verdad, trabajo, libertad — la encíclica considera la verdad
como un bien común y un elemento esencial de la democracia. En el entorno
digital, la verdad debe plasmarse en una «ecología de la comunicación» para que
la cultura generada por la web no se convierta en un instrumento de
«homologación y dominio», sino en un espacio de maduración para la «libertad
interior y el pensamiento crítico» (136-137). El Papa señala algunos
instrumentos: transparencia en los criterios de selección de contenidos,
protección de los datos personales, un periodismo serio basado en la
argumentación y la verificación, una nueva conciencia en el uso «correcto y
crítico» de la IA, la integración de los conocimientos. También se exige a la
Iglesia una comunicación transparente y leal, sobre todo en los casos de
injusticias y abusos. Es fundamental, en la encíclica, el llamamiento a una
alianza educativa renovada para que en los jóvenes no se apague «el deseo de
hacer preguntas» a causa de máquinas perfectas que hacen parecer inútil el
pensamiento humano. «Debemos educarnos en el ayuno de la IA» (140), subraya
León XIV, eliminando las desigualdades en el acceso a la educación y apostando
por la escuela como lugar donde se aprende a «buscar y amar la verdad» (143) y
se enseña lo que lo digital no puede dar: «tiempo compartido para aprender y
relaciones fiables» (147).
El
trabajo debe centrarse en la persona, no en el beneficio
En la «cuarta revolución industrial» que representa la
transición digital, el Pontífice destaca la importancia de proteger la dignidad
y el valor del trabajo: «Las nuevas formas de trabajar no son necesariamente
mejores», explica, ya que la tecnología puede descalificar a los trabajadores,
relegarlos a funciones marginales y someterlos a una vigilancia automatizada
(150). Por el contrario, es necesario diseñar sistemas centrados en la persona
y no solo en el rendimiento, porque la tecnología puede sin duda liberar al
hombre de tareas pesadas o repetitivas, pero no debe conducir en absoluto al desempleo
en nombre de la reducción de costes y el aumento de los beneficios. En un
escenario en el que se perfilan mayores niveles de pobreza y desigualdad,
provocados por sistemas automatizados que han sustituido al hombre, el
Pontífice aboga también por una renovación de las organizaciones sindicales
(155).
El
desarrollo no se mide solo en términos de PIB
La transformación digital debe gestionarse de antemano
mediante criterios sociales estables, formación accesible y continua para los
trabajadores y responsabilidad empresarial. El Pontífice señala, además, la
necesidad de superar el PIB como parámetro del grado de desarrollo de un país,
apostando en su lugar por la dignidad del trabajo, la prosperidad compartida,
la reducción de las desigualdades y la protección del medio ambiente. La
financiación por la financiación es, de hecho, diferente de la financiación
para el desarrollo (159-160). Y, siguiendo la estela de San Pablo VI, se
subraya la interdependencia entre paz y desarrollo, abogando por una cooperación
internacional capaz de definir estrategias comunes «sobre todo en favor de los
países y los grupos más vulnerables», porque la prosperidad contribuye a la paz
«solo si es generalizada, inclusiva y sostenible» (163).
La
familia, bien social primario
En la encíclica destaca, además, la referencia a la
familia, fundada en la unión estable entre un hombre y una mujer: es «bien
social primario», «célula fundamental e insustituible de toda organización
comunitaria» (165) que debe apoyarse también mediante políticas laborales que
favorezcan la estabilidad y ritmos humanos, de modo que se garantice el justo
equilibrio de vida y se proteja esa «capacidad de construir el futuro» que hace
generativa a la sociedad.
La
«arquitectura de la visibilidad» y los riesgos para la libertad
Por último, el tema de la libertad humana, que hay que
proteger contra la dependencia y la mercantilización: en una época en la que
las plataformas digitales están diseñadas para acaparar el tiempo de los
usuarios y explotar sus fragilidades, es urgente reforzar la libertad interior
de cada uno y hacer frente al riesgo del control social derivado de la
recopilación masiva de datos y del uso de sistemas algorítmicos. Perfilar,
predecir y orientar los comportamientos es, de hecho, «un poder nuevo» (171)
que corre el riesgo de discriminar a los más débiles. El Papa deplora, en
particular, la «arquitectura de la visibilidad» que premia y amplifica solo lo
que es visible, moldeando opiniones y generando conformismo.
Nuevas
formas de esclavitud y nuevo colonialismo
La IA genera nuevas formas de esclavitud, como la de
los «cuerpos marcados, mutilados, consumidos» (173) de quienes trabajan en la
extracción de las «tierras raras» necesarias para la tecnología. Por ello, la
lucha contra las nuevas formas de esclavitud es otra «prueba decisiva para el
discernimiento ético» de la transformación digital. A este respecto, León XIV
subraya que «la Iglesia renueva su firme condena contra toda forma de
esclavitud, trata y mercantilización de las personas» y reitera que no
reaccionar o tolerar estas «graves violaciones de la dignidad humana»
significa, de hecho, «hacerse cómplice» (174). Al mismo tiempo, el Papa pide
«sinceramente perdón» por el retraso con el que la Iglesia, en el pasado,
condenó «el flagelo de la esclavitud». La encíclica se refiere también a las
«nuevas tierras raras del poder», es decir, la información vital —por ejemplo,
sobre salud y demografía— utilizada para orientar las estrategias económicas.
Se trata, explica el Pontífice, de una faceta inédita del colonialismo que se
apropia de los datos y transforma las vidas personales en información
explotable, convirtiendo el entorno digital en un «espacio de depredación»
(178-179).
Superar
la teoría de la «guerra justa»
En el quinto y último capítulo —La cultura del poder y
la civilización del amor—, León XIV dirige su mirada hacia la guerra: «La
revolución digital está modificando la gramática de los conflictos» y, sin un
enfoque ético, las decisiones sobre la vida y la muerte de las personas serán
cada vez más impersonales, considerándose el recurso a la fuerza como una
«opción inmediata y viable» (182-183) . En la base de todo hay una «cultura del
poder» que normaliza la guerra y la rehabilita como «instrumento de política
internacional», favoreciendo el rearme. Sobre la opinión pública, que en el
pasado veía la beligerancia solo como extrema ratio, hoy pesan también las
narrativas mediáticas polarizantes, así como «una preocupante pérdida de
memoria histórica» que nos priva de una visión a largo plazo (191). En
consecuencia, hoy la paz ya no se entiende como una tarea que hay que asumir,
sino como un intervalo precario entre conflictos. Por ello, León XIV reitera
que —sin perjuicio del derecho a la legítima defensa en su sentido más
estricto— es necesario superar la teoría de la «guerra justa», promoviendo más
bien el diálogo, la diplomacia y el perdón (192).
Ningún
algoritmo hace que la guerra sea moralmente aceptable
El Papa Prevost no deja de lamentar el crecimiento de
la industria bélica, la carrera armamentística nuclear y la aparición de nuevos
actores armados —entre ellos los yihadistas— que pretenden perpetuar los
conflictos como fuente de poder y de ingresos. Es contundente, además, la
advertencia contra el uso de armas relacionadas con la IA, ya que «no existe
ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable»; es
más: la tecnología «no libera al conflicto de su intrínseca inhumanidad, solo
puede hacerlo más rápido e impersonal, rebajando el umbral del recurso a la
violencia y transformando la defensa en previsión operativa, con las víctimas
reducidas a datos. Así, nos acostumbra a la idea de que la violencia es
inevitable y solo hay que optimizarla» (198). Por lo tanto, se necesitan
restricciones éticas rigurosas, compartidas a nivel internacional, basadas en
la responsabilidad personal y en la protección de los civiles, porque «toda
tecnología que facilite atacar sin ver el rostro del otro rebaja el umbral
moral del conflicto» (199).
La
crisis del multilateralismo
La cultura del poder surge también de la crisis del
multilateralismo y del surgimiento de un «multipolarismo desordenado y
conflictivo» en el que prevalece la desconfianza hacia el otro (201). La fuerza
del derecho se sustituye por el derecho del más fuerte; las lógicas del poder
prevalecen sobre la construcción de la paz, relegada a un segundo plano, y las
instituciones creadas para custodiar el destino común de los pueblos se encuentran
ahora debilitadas, sin que se reconozca su autoridad moral. A este respecto, el
Papa auspicia para la ONU y para el sistema político internacional «reformas
profundas» que superen la actual crisis de valores en favor del verdadero bien
común (226).
Una
Realpolitik irresponsable
Hoy, prosigue la encíclica, se libran guerras
«híbridas» que abarcan los ámbitos económico, financiero e informático,
aprovechando la desinformación y el miedo para influir en la opinión pública y
presentar el aumento del gasto militar como la «única respuesta» a un futuro
incierto. Pero todo esto no es más que un «falso realismo», una irresponsable
Realpolitik que siembra en las conciencias y en las culturas la resignación
ante una guerra ineludible y califica la paz de utopía (204-205). Sin excluir
que, para algunos, el conflicto armado podría ser un instrumento de «gestión
cínica» de las dificultades, así como una forma de desviar la atención de los
problemas internos (208).
La
civilización del amor
El cristiano está llamado a responder a esta cultura
del poder construyendo «la civilización del amor»: la gracia, de hecho, no
elimina el conflicto como por arte de magia, sino que genera «una resistencia
activa al mal y una sorprendente creatividad en el bien» (211). Cada uno, en su
ámbito de acción, está llamado a elegir entre alimentar la lógica de la fuerza
o custodiar la paz, frenando la deshumanización con pequeños actos de fidelidad
y tenacidad. El Papa señala cinco «vías de responsabilidad»: desarmar las
palabras diciendo la verdad; construir la paz en la justicia; asumir la mirada
de las víctimas tomando posición, porque hay conflictos en los que «no es justo
permanecer neutrales». Los ataques contra civiles, hospitales e
infraestructuras hieren a la propia humanidad y no pueden quedar relegados al
ámbito del análisis abstracto. Por el contrario, hay que dar voz a las víctimas
para «tomar verdadera conciencia del abismo de maldad que encierra» la guerra y
toda violencia (217). Y aún más: el Papa exhorta a cultivar «un sano realismo»
que busque vías de paz viables con hechos, no solo con palabras.
No
utilizar el nombre de Dios para legitimar la guerra
Por último, relanzar el diálogo pasando de una cultura
del poder a una cultura de la negociación. También es decisivo «el diálogo
entre las religiones», portador de un mensaje de paz. «Quien utiliza el nombre
de Dios para legitimar el terrorismo, la violencia o la guerra, traiciona su
rostro —advierte León XIV—: luchar en nombre de la religión significa, en
realidad, golpear a la propia religión» (223). Por su parte, la diplomacia de
la Santa Sede utiliza «el principio evangélico de la misericordia» como
criterio concreto de la acción política. De ahí deriva la exhortación a la
oración, porque la paz proviene ante todo de Dios (227-228).
La
magnífica humanidad
Al concluir la carta, el Pontífice invita a los fieles
a vivir las nuevas tecnologías a la luz del Evangelio, siguiendo «un itinerario
de vida cristiana sobrio y exigente», para que, incluso en la era de la IA,
todos puedan dar testimonio de «la belleza de una magnífica humanidad habitada
por Dios».
Por ISABELLA
PIRO/Vatican News
No hay comentarios.: