Bakú, 3 de noviembre, AZERTAC

"La velocidad y el alcance de la tecnología actual de IA no tienen precedentes. La paradoja es que en el futuro nunca avanzará tan lentamente como hoy. La brecha entre la IA y su gobernanza es amplia y cada vez mayor", afirmó el secretario general de la ONU, António Guterres, al intervenir el jueves en Londres en la Cumbre sobre Seguridad de la IA (inteligencia artificial) del Reino Unido.
"Los riesgos asociados a la IA son muchos y variados. Como la propia IA, aún están surgiendo y exigen nuevas soluciones. Pero seamos claros: no exigen nuevos principios.
Los principios para la gobernanza de la IA deben basarse en la Carta de las Naciones Unidas y en la Declaración Universal de los Derechos Humanos. Necesitamos incorporar urgentemente esos principios a la seguridad de la IA. Veo tres áreas de actuación.
En primer lugar, nos estamos poniendo al día con las amenazas actuales. Tenemos que adelantarnos a la ola. El año pasado vimos la aparición de potentes modelos de inteligencia artificial que apenas tenían en cuenta la seguridad de los usuarios. Cada vez que esto ocurre, aumenta el riesgo de que la tecnología sea utilizada de forma malintencionada por delincuentes o incluso terroristas; de que socave la seguridad o la integridad de la información; de que la gente pierda el control sobre ella; y de que se desarrolle en direcciones no deseadas. Necesitamos urgentemente marcos para hacer frente a estos riesgos, de modo que tanto los desarrolladores como el público estén seguros y puedan confiar en la IA", mencionó el responsable de la ONU.
"El segundo ámbito de actuación se refiere a las posibles consecuencias negativas a largo plazo de la IA. Entre ellas, la perturbación de los mercados de trabajo y las economías, y la pérdida de diversidad cultural que podría derivarse de algoritmos que perpetúan prejuicios y estereotipos. La concentración de la IA en unos pocos países y empresas podría aumentar las tensiones geopolíticas. Ahora mismo, la gran mayoría de los chips avanzados de IA se fabrican en uno de los lugares geopolíticamente más delicados de la Tierra.
Los daños a largo plazo se extienden al posible desarrollo de nuevas y peligrosas armas basadas en IA... la combinación maliciosa de IA con biotecnología... y las amenazas a la democracia y los derechos humanos derivadas de la desinformación, la manipulación y la vigilancia asistidas por IA. Necesitamos marcos para vigilar y analizar estas tendencias, con el fin de prevenirlas", subrayó.
"La tercera preocupación es que, sin una acción inmediata, la IA exacerbará las enormes desigualdades que ya asolan nuestro mundo. Esto no es un riesgo; es una realidad. Según un informe reciente, ningún país africano se encuentra entre los 50 mejor preparados en materia de IA. Veintiuno de los 25 países con peor puntuación eran africanos.
La IA tiene un enorme potencial para ayudar a las economías en desarrollo que aún se recuperan de la pandemia del COVID-19 y luchan contra una montaña de deudas. Puede ayudar a los gobiernos a elaborar presupuestos, a las empresas a expandirse y a los científicos del clima a predecir sequías y tormentas. Puede ayudar a la gente corriente a acceder a una atención sanitaria y una educación vitales. Puede ser un gran acelerador y facilitador de los 17 Objetivos de Desarrollo Sostenible. Pero, para que esto ocurra, todos los países y todas las comunidades deben tener acceso a la IA y a la infraestructura digital y de datos que requiere. Ahora mismo, las tecnologías de IA están limitadas a unos pocos países y empresas. Necesitamos un esfuerzo sistemático para cambiar esta situación.
En respuesta a estos tres motivos de preocupación, diferentes partes interesadas han desarrollado más de 100 conjuntos de principios éticos para la IA, que tienen mucho en común.
Existe un amplio acuerdo en que las aplicaciones de IA deben ser fiables, transparentes, responsables, supervisadas por humanos y capaces de ser desactivadas. Pero, sin una supervisión global, existe un riesgo real de incoherencia y lagunas. Necesitamos una conversación sostenida y estructurada sobre riesgos, retos y oportunidades. Las Naciones Unidas -una plataforma inclusiva, equitativa y universal para la coordinación de la gobernanza de la IA- están ahora plenamente comprometidas en esa conversación", subrayó Guterres.
"El Órgano Consultivo Multilateral sobre Inteligencia Artificial que puse en marcha la semana pasada reúne a expertos mundiales de gobiernos, empresas, la comunidad tecnológica, la sociedad civil y el mundo académico. Es verdaderamente universal, con representación de todas las partes del mundo, para fomentar las soluciones en red, inclusivas y basadas en pruebas que se necesitan. Universalidad significa que un país o grupo de países no puede dominar. La transparencia y la responsabilidad mutua están integradas.
El Órgano Consultivo estudiará la forma de vincularse y coordinarse con las diversas iniciativas que ya están en marcha, incluidas las de la Unión Europea y el Proceso de Hiroshima del G7 [Grupo de los Siete]. Se situará en el centro de una red mundial de acción basada en la ciencia por parte de los gobiernos, el sector privado y la sociedad civil. El informe sobre el estado de la ciencia en relación con las capacidades y los riesgos de la IA en las fronteras del conocimiento, propuesto por el Reino Unido, puede desempeñar un papel importante a la hora de orientar su labor.
La primera tarea del Órgano Consultivo es examinar los modelos de gobernanza tecnológica que han funcionado en el pasado, con vistas a identificar formas que podrían funcionar para la gobernanza de la IA ahora y en el futuro. A finales de este año presentará un informe con recomendaciones preliminares en tres ámbitos: Reforzar la cooperación internacional en la gobernanza de la IA; construir un consenso científico sobre los riesgos y desafíos; y hacer que la IA funcione para toda la humanidad.
Estas recomendaciones se incorporarán al Pacto Digital Mundial propuesto para su adopción por los Jefes de Estado en la Cumbre del Futuro el próximo mes de septiembre. En otras palabras, su trabajo integrará la gobernanza de la IA en los procesos intergubernamentales y en una Cumbre mundial ya establecida.
Necesitamos una estrategia mundial unida y sostenida, basada en el multilateralismo y en la participación de todas las partes interesadas. Las Naciones Unidas están preparadas para desempeñar su papel", añadió.