Los expertos de seguridad de IA de Estados Unidos reportan a la Casa Blanca
Funcionarios del Centro para Avanzar la Innovación y los Estándares para la Superinteligencia, o CAISSI, por sus siglas en inglés, una división independiente del Departamento de Comercio, recibieron hace poco una solicitud para que informaran de manera informal a una oficina de la Casa Blanca. Así lo indicaron a The Associated Press dos exfuncionarios del gobierno con conocimiento de las conversaciones en curso, quienes hablaron bajo condición de anonimato para evitar represalias contra el personal actual.
El nuevo arreglo preocupa a algunos críticos, que temen que el poder ejecutivo esté politizando decisiones que podrían afectar desde la ciberseguridad hasta las armas biológicas, y que los hallazgos del centro puedan ser modificados o silenciados en deferencia a la industria tecnológica, a la que en gran medida se le ha confiado que se autorregule.
“Estas son instituciones realmente poderosas que pueden mejorar drásticamente nuestras vidas, o lo contrario. Y la esperanza es que se pueda incorporar a expertos tecnócratas no partidistas o bipartidistas para aplicar políticas de la manera que mejor sirva al público estadounidense”, afirmó Caroline Siegel Singh, directora del programa de IA y tecnología emergente de la Federación de Científicos Estadounidenses.
Otros sostienen que acercar a los funcionarios de seguridad de la IA a la órbita del presidente Donald Trump, quien parece haber adoptado una estrategia de no intervención sobre el tema, podría darle a la división mayor prominencia, y quizá más financiación.
Al centro, que ha sufrido salidas de personal y hasta hace poco se llamaba el Centro Estadounidenses para Estándares e Innovación de IA, se le asignan 10 millones de dólares al año. Eso equivale a aproximadamente una octava parte del presupuesto anual de su contraparte británica, que es mucho menos celebrado por sus tecnologías de vanguardia.
La división contrató a un director en abril y luego lo despidió a los pocos días. Su reemplazo duró unos meses antes de renunciar, y desde entonces el centro no ha tenido un líder permanente, aunque el jefe de su instituto matriz también ejerce como director interino.
El Congreso empezó a preguntar en agosto por qué el centro dejó de repente de hacer públicos sus reportes sobre la seguridad con la que operan ciertos sistemas de IA. Para entonces, el gigante de San Francisco OpenAI también se había sumado a los comentarios, pidiendo a los responsables de políticas que destinaran más dinero y apoyo a la división.
La Casa Blanca no respondió a preguntas específicas sobre CAISSI. Pero señaló en un comunicado que Trump había establecido formalmente su nueva Fuerza de Superinteligencia, el término preferido del presidente para la inteligencia artificial. Trump ha encargado un informe sobre riesgos a su Consejo de Asesores en Ciencia y Tecnología, y garantizará el “liderazgo continuo de Estados Unidos en SI en beneficio del pueblo estadounidense”, afirmó la Casa Blanca.
No hay comentarios.: