El Reino Unido celebra la primera cumbre mundial sobre los riesgos de la Inteligencia Artificial

La actual revolución tecnológica levanta pasiones, pero también temores, que dominarán los debates de esta cumbre, celebrada en Bletchley Park, en el centro de Londres, donde se encuentra la emblemática sede en la que descifraban las comunicaciones durante la Segunda Guerra Mundial.

Según lo pautado, los participantes abordarán en la primera jornada los posibles riesgos de la IA de vanguardia, como el polémico robot ChatGPT y a partir de mañana representantes políticos de alto nivel participarán del encuentro; entre ellos la presidenta de la Comisión Europea (CE), Ursula von der Leyen; el secretario general de Naciones Unidas (ONU), Antonio Guterres; y la vicepresidenta de Estados Unidos, Kamala Harris.

Pese a la tensión y al miedo al espionaje industrial, China también estará representada, aunque por ahora se desconoce exactamente a qué nivel. También está previsto que participen estrellas del sector de Silicon Valley, como Sam Altman y Elon Musk, que confundaron OpenAI, la empresa que creó ChatGPT.

A falta de políticas comunes, Reino Unido quiere poner en marcha una cooperación internacional sobre la IA. Su gobierno espera, como mínimo, conseguir una "primera declaración internacional sobre la naturaleza" de los riesgos de esta tecnología. También propone crear un grupo de analistas internacionales, inspirado en el modelo del panel de expertos de la ONU sobre el cambio climático (IPCC).

Las IA generativas, capaces de producir en pocos segundos textos, sonidos o imágenes a partir de una petición, han avanzado a pasos de gigante en estos últimos años y las próximas generaciones de estos modelos saldrán en pocos meses.

La tecnología suscita grandes esperanzas para la medicina y la educación, pero también supone una "amenaza existencial" que puede desestabilizar sociedades, permitiendo fabricar armas o escapando al control humano, advirtió el gobierno británico en la convocatoria.

"Los riesgos que plantea la IA avanzada son serios", alertó la ministra británica de Tecnología Michelle Donelan. "Esta cumbre nos brinda la ocasión de asegurarnos que tenemos las buenas competencias reunidas alrededor de la mesa para debatir la forma en que podemos disminuir estos riesgos en el futuro", dijo.

El principal desafío es conseguir definir salvaguardias sin poner trabas a la innovación en los laboratorios de IA y los gigantes tecnológicos. En lo inmediato, tanto la Unión Europea (UE) como Estados Unidos han comenzado a dar los primeros pasos para reglamentar la IA

El presidente Joe Biden firmó este lunes una orden ejecutiva de gran alcance, utilizando la fuerza de las agencias de todo el gobierno federal e invocando amplios poderes de emergencia para aprovechar el potencial y hacer frente a los riesgos de lo que llamó la “tecnología más importante de nuestro tiempo”.

Varias empresas, como OpenAI, Meta (Facebook) y DeepMind (Google), aceptaron la semana pasada hacer públicas algunas de sus reglas de seguridad sobre la IA, después de que lo solicitara el Reino Unido.

En una carta abierta dirigida al primer ministro británico, Rishi Sunak, un centenar de organizaciones, expertos y militantes internacionales lamentaron que el encuentro, dominado por las compañías y los gobiernos, se desarrollen "a puerta cerrada", y con un muy limitado acceso de la sociedad civil.

"Tenemos que dejar de pensar que las empresas privadas con fines lucrativos son los únicos propietarios posibles y legítimos de los sistemas de IA, que transforman nuestras vidas y nuestros métodos de trabajo", afirmó Sasha Costanza-Chock, profesora en el Berkman Klein Center de la Universidad de Harvard.

La cumbre sucede al acuerdo alcanzado por el Grupo de los Siete (G7) y la Unión Europea (UE), que luego de varios meses de discusiones consensuaron un código de conducta para las empresas e instituciones que desarrollan sistemas avanzados de IA con el objetivo de reducir los riesgos derivados de la tecnología, como la desinformación, la vulneración de la privacidad y las violaciones a los derechos de propiedad intelectual.

El código de conducta, definido como “voluntario” y un “hito” por sus impulsores, es el resultado del proceso iniciado en mayo pasado en un foro ministerial concretado en Kioto, Japón, del que participaron representantes de Canadá, Francia, Alemania, Italia, Japón, Gran Bretaña, Estados Unidos y la UE.

El texto insta a las empresas a tomar medidas adecuadas para identificar, evaluar y mitigar los riesgos a lo largo del ciclo de vida de la IA; pero también a abordar los incidentes y los patrones de uso indebido después de que los productos de IA hayan sido comercializados.

(Con información de AFP)