La «Declaración de Roma»: un compromiso sobre las armas nucleares y la IA
El desarme, el desarrollo responsable de las nuevas tecnologías y el compromiso de perseguir «una paz desarmada y desarmante»: estas son las líneas maestras de la declaración
«La humanidad se encuentra en un momento decisivo de
su historia». Así comienza la «Declaración de Roma por una paz desarmada y
desarmante en la era de la inteligencia artificial, las armas nucleares y
autónomas, los nuevos protocolos digitales y los modelos emergentes de desarrollo
digital», firmada en la mañana de 16 de julio, en el Campidoglio, en Roma, al
término de los dos días de reuniones celebradas en el Borgo Laudato si' bajo el
título: «Asamblea Global de los Premios Nobel sobre Inteligencia Artificial y
Guerra Nuclear». Un evento que contó con la participación de premios Nobel,
destacados expertos en inteligencia artificial, antiguos jefes de Estado y de
Gobierno, y representantes de algunas de las universidades e instituciones de
investigación más importantes e influyentes del mundo.
«Un desafío sin precedentes» es el que se está
viviendo, se lee en el texto, que nos interroga a todos porque, sobre todo, la
inteligencia artificial ofrece grandes oportunidades, pero es probable que
«provoque una pérdida masiva de puestos de trabajo y acentúe la competencia
económica entre las potencias nucleares». Al concentrarse además en las manos
de un reducido número de países y grandes empresas, la IA puede provocar
profundas asimetrías de poder. Por último, al desarrollarse a una velocidad sin
precedentes, está destinada «a producir transformaciones económicas, militares
y sociales de gran alcance». En la declaración también se subraya que la
creciente carrera armamentística nuclear va de la mano de «una carrera por la
inteligencia artificial igualmente peligrosa». Por lo tanto, acogiendo la
invitación del Papa León a perseguir «una paz desarmada y desarmante», se
pretende rechazar la idea de que la seguridad se base en el miedo, el dominio,
la amenaza y la destrucción mutua.
En
interés de la humanidad
En los seis puntos que componen el texto se invita a
«desactivar la próxima carrera armamentística, tanto en el ámbito de la
inteligencia artificial como en el nuclear, antes de que sean estas las que
determinen el rostro del próximo siglo». Se hace un firme llamamiento a los
desarrolladores de sistemas de inteligencia artificial para que actúen en
interés de la humanidad, «respetando el derecho internacional y los derechos
humanos». De ahí el llamamiento a las organizaciones y a los gobiernos para que
supervisen los procesos totalmente automatizados en los sistemas de
inteligencia artificial.
Un
tratado internacional para los sistemas de control de la IA
«La decisión final de emplear un arma nuclear —se lee
en la declaración— nunca debe confiarse a un sistema automatizado». Por lo
tanto, se pide la adopción de «un tratado internacional que prohíba la
integración irresponsable de la inteligencia artificial en los sistemas de
mando, control y lanzamiento de armas nucleares, garantizando que siempre se
mantenga un control humano efectivo y significativo». En esencia, se trata de
impedir un uso malintencionado de la IA en operaciones cibernéticas y en
ataques contra infraestructuras nucleares. «Promovemos el desarrollo y el uso
responsable de la inteligencia artificial —se afirma— para mejorar el bienestar
humano, acelerar el progreso científico y médico, proteger el medio ambiente,
reforzar la resiliencia de las sociedades y promover la paz, el desarrollo
sostenible y el bien común».
Crear
un bien común digital
Los últimos puntos se refieren a la necesidad de
«identificar nuevas vías institucionales hacia una gobernanza global de la
inteligencia artificial y para favorecer, en el futuro, la puesta en marcha de
iniciativas de gobernanza global en este ámbito». Se respaldan iniciativas
inspiradas en la Magnifica humanitas del Papa León y se apoya al Panel
Científico Internacional Independiente de las Naciones Unidas sobre Inteligencia
Artificial. El llamamiento de los firmantes es crear «un bien común digital»
(digital commons) que favorezca la recopilación y el intercambio de los datos
necesarios para profundizar en el conocimiento y respaldar acciones eficaces en
materia de armas nucleares e inteligencia artificial. De hecho, en el mundo
existen múltiples amenazas interconectadas y las consecuencias suelen recaer
sobre quienes no tienen acceso ni control sobre las tecnologías que las
generan.
El
desarme nuclear
Al final de la declaración se insta con urgencia a
iniciar negociaciones para lograr «la eliminación verificable e irreversible de
las armas nucleares». Se reafirman, por tanto, los compromisos suscritos en el
Tratado de No Proliferación de las Armas Nucleares (TNP) y en el Tratado sobre
la Prohibición de las Armas Nucleares (TPAN). De ahí la petición a los Estados
de que pongan fin a la carrera armamentística, apostando por las negociaciones
y por el cumplimiento de las obligaciones asumidas. «Las naciones que poseen
armas nucleares —se lee— deben promover políticas y doctrinas que reduzcan
progresivamente el papel de dichas armas, refuercen la estabilidad estratégica
y disminuyan el riesgo de su primer uso y de una guerra con consecuencias
catastróficas». «Está en juego —escriben los firmantes— nuestra supervivencia y
la de las generaciones futuras».
Por BENEDETTA
CAPELLI/Vatican News
No hay comentarios.: