Papa León XIV: Las decisiones que afectan la vida humana nunca deben delegarse
Al dirigirse a los participantes en el congreso «El
futuro de la IA: un diálogo entre el Vaticano y el mundo científico sobre los
avances y las aplicaciones de las tecnologías inteligentes», el Papa León XIV
señaló que el hecho de provenir de diferentes países genera nuevas preguntas y
perspectivas.
Sin embargo, «comparten una cierta sensación de
inquietud respecto al desarrollo de la inteligencia artificial. Reconocemos la
dirección que debemos tomar, pero no se está haciendo lo suficiente para
avanzar», argumentó.
Las inquietudes, ideas y sugerencias del grupo para el
futuro son los «primeros frutos de un enfoque transdisciplinario», cada vez más
necesario para abordar los complejos desafíos de la actualidad.
Palabras que siguen siendo válidas
El Papa destacó que la Pontificia Academia para la
Vida y el Future of Life Institute, que organizaron conjuntamente este
encuentro, están «plenamente conscientes de los desafíos que surgen allí donde
se ve amenazada la dignidad humana».
Con esto en mente, recordó las palabras del Papa
Francisco dirigidas a los líderes del G7 en 2024, en las que describió la IA
como «Un instrumento fascinante y tremendo» y subrayó que ninguna máquina
debería poder decidir jamás si quitar una vida humana.
Estas palabras siguen siendo válidas. Refiriéndose a
su propia encíclica Magnifica Humanitas, el Papa León esbozó cinco
consideraciones con respecto a la inteligencia artificial: el futuro de la IA
no está predeterminado; las máquinas son herramientas, no personas; ciertas
decisiones nunca pueden delegarse; las tecnologías inteligentes deben
orientarse hacia el bien común; y se necesitan instituciones que establezcan
principios éticos para guiar el desarrollo de la IA.
¿Cuál
es el propósito de la IA?
El futuro de la inteligencia artificial no está
predeterminado. Dado que son los seres humanos quienes desarrollan la IA, su
futuro depende de las decisiones que tome la humanidad. Por eso, subrayó el
Papa, «tenemos la responsabilidad de orientar, modificar y, cuando sea necesario,
rechazar sus aplicaciones».
Por lo tanto, la pregunta no es simplemente: «¿Qué
puede hacer la IA?», sino que debe ser: «¿A qué propósito debe servir?».
Desarrollar la IA no debería significar enfocarse únicamente en la meta e ignorar a quienes se quedan atrás. El Papa León argumentó que un sistema confiable que sirva a la persona humana tiene mucho más valor que uno que sea poderoso, pero cuyas «consecuencias no puedan preverse ni controlarse adecuadamente».
No se puede sustituir a los seres humanos
La segunda consideración que explicó el Pontífice es
que las máquinas son herramientas y no personas. No tienen experiencias,
cuerpos, sentimientos ni relaciones, y no comprenden el amor, el trabajo ni la
responsabilidad.
Algunos han sugerido otorgar a estos sistemas derechos
o personalidad jurídica. Sin embargo, el Papa León subrayó que esto corre el
riesgo de «ocultar la responsabilidad humana y dejar a quienes sufren daños
enfrentándose a una entidad sin rostro».
En tercer lugar, hay ciertas decisiones que nunca
deberían delegarse a las máquinas. Por ejemplo, incluir a una persona en una
lista de objetivos o en una base de datos de control fronterizo significa que
se convertirá simplemente en un dato más.
“Las decisiones que afectan la vida humana, la
libertad y el uso de la fuerza deben estar siempre sujetas a una supervisión
humana efectiva, informada y responsable”, explicó el Papa. Por eso, la IA debe
ser “desarmada”. Además, instó a los Estados que se reunirán en Ginebra en
noviembre a tomar medidas para prohibir las armas autónomas letales.
Lo
que necesitamos hoy
La cuarta consideración es que las tecnologías
inteligentes deben orientarse hacia el bien común. «De hecho, nunca deben
convertirse en un fin en sí mismas ni servir únicamente a los intereses de unos
pocos privilegiados», subrayó el Papa ante los participantes.
Estas tecnologías deben fomentar la solidaridad y la
participación en los distintos niveles de la comunidad global, asegurando que
los beneficios del progreso se disfruten de manera equitativa.
La última consideración del Papa León es un desafío,
que él describió como potencialmente el más urgente. El mundo necesita
instituciones capaces de poner en práctica los principios éticos que guíen a la
IA y de centrarse en la protección del bien común.
Lo que esto requiere son «normas compartidas, una
supervisión independiente y mecanismos claros de rendición de cuentas, de modo
que las decisiones relativas al desarrollo y el uso de la IA puedan ser
examinadas, cuestionadas cuando sea necesario y acompañadas de medidas
correctivas adecuadas para cualquier daño causado».
El Papa León concluyó su discurso ante los
participantes en el encuentro expresando su gratitud por sus contribuciones en
el campo de la IA y alentándolos a perseverar, a trabajar juntos con un
espíritu de diálogo y responsabilidad compartida orientada al bien común.
«Los acompaño con mis oraciones y a cada uno de
ustedes les imparto cordialmente mi bendición».
Por KIELCE
GUSSIE/Vatican News
No hay comentarios.: