Inria Chile participa en el Primer Foro Global sobre la Ética de la Inteligencia Artificial de la Unesco

Con el objetivo de “garantizar la inclusión en el mundo de la Inteligencia Artificial” (IA) y hacer un balance de la recomendación de la Unesco, el 13 de diciembre se celebró en Praga, República Checa, el Primer Foro Mundial sobre la Ética de la IA, instancia organizada por la Presidencia checa del Consejo de la Unión Europea, bajo el patrocinio de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). En el Foro, participaron numerosas autoridades de los gobiernos de Argentina, Austria, Bélgica, Chile, Corea del Sur, Ecuador, Indonesia, Lituania, República Checa, Rumania, Eslovenia, España y Reino Unido, incluida la subsecretaria de Ciencia, Tecnología, Conocimiento e Innovación chilena, Carolina Gainza.

Actualmente, la inteligencia artificial es parte de la vida cotidiana de las personas en todo el mundo, en ámbitos tan variados como educación, trabajo y salud. La IA ha traído consigo múltiples beneficios, pero también desafíos y riesgos asociados al mal uso de esta. En esta línea, en noviembre de 2021, los 193 estados miembros de la Conferencia General de la UNESCO suscribieron el primer instrumento normativo mundial sobre inteligencia artificial, la “Recomendación sobre la Ética de la Inteligencia Artificial”, y este Primer Foro marca un hito importante en la construcción de una sólida coalición internacional que garantice el desarrollo y el uso éticos de la IA en todo el mundo, tras la adopción de la Recomendación sobre la ética de la IA en noviembre de 2021.

La recomendación “garantiza que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, abordando cuestiones relativas a la transparencia, la rendición de cuentas y la privacidad, con capítulos políticos orientados a la acción sobre la gobernanza de los datos, la educación, la cultura, el trabajo, la atención sanitaria y la economía.”

El documento menciona los ámbitos de aplicación de la Recomendación; sus fines y objetivos; valores y principios, y los ámbitos de acción política, entre otros. La UNESCO señala que son necesarias políticas internacionales y nacionales, así como marcos regulatorios que garanticen que el desarrollo de esta tecnología beneficie a la humanidad en su conjunto, y destaca la necesidad de hacer una IA centrada en el ser humano, al servicio de los intereses de los y las ciudadanas, y no al revés.

En su calidad de anfitriones del Foro, el ministro de Relaciones Exteriores de la República Checa, Jan Lipavský, junto a la directora general de la UNESCO, Audrey Azoulay, y al director general de la Dirección General de Apoyo a las Reformas Estructurales (DG REFORM) de la Comisión Europea, Mario Nava, fueron los encargados de abrir la reunión refiriéndose a la complementariedad y al rol de vanguardia que cumplen la UE y la UNESCO en el trabajo normativo y legislativo en torno a la IA.

Después de esta introducción, la subdirectora general de Ciencias Sociales y Humanas de la UNESCO, Gabriela Ramos y el profesor de Ciencias de la Computación de la Universidad de California en Berkeley, Stuart J. Russell, quienes abrieron la discusión con dos keynotes en “Preparando el Escenario: Mantenerse a la Vanguardia en IA ética”. Luego, en la Sesión Ministerial siguiente llamada “Colaboración mundial para la aplicación de la Recomendación de la UNESCO sobre la ética de la IA” participaron las autoridades de los países que fueron parte del foro.

Con más de 200 equipos de investigación y cerca de 4000 investigadores e investigadoras especialistas, Inria es una voz autorizada y experta en esta materia, por lo cual, representada por su directora, Nayat Sánchez-Pi, Inria Chile fue parte de la mesa redonda del Foro, titulada “Ensuring multistakeholder engagement in the Ethical Impact Assessment”.

En la instancia, junto a la directora de Inria Chile, participaron asimismo destacadas autoridades, expertos, emprendedores y líderes del área: el viceministro de Asuntos Europeos de la República Checa, Marek Havrda como moderador; el director del International Research Center on Artificial Intelligence de la UNESCO (IRCAI), John Shawe-Taylor; el asesor para inteligencia artificial de la Dirección General de Redes de Comunicación, Contenido y Tecnología o "DG Connect" de la Comisión Europea, Juha Heikkilä;el director del Institute of Law and Technology de la Masaryk University, Radim Polčák; la directora de gabinete del Information Technology Laboratory (ITL), del National Institute of Science and Technology (NIST) de Estados Unidos, Elham Tabassi; el CEO y fundador de GoodAI, Marek Rosa; y Lynn H. Kaack, profesora asistente de ciencias de la computación y políticas públicas, en la Hertie School y co-fundadora y presidenta de Climate Change AI. Todos ellos discutieron los esfuerzos internacionales para promover el desarrollo y el uso ético de la IA y las mejores prácticas regulatorias para garantizar el desarrollo ético de esta tecnología.

Nayat Sánchez-Pi señaló “necesitamos que este trabajo de evaluación ética sea una parte integral end-to end del ciclo de aprendizaje automático y no algo que se hace al final de forma separada y desconectada. Este no es un problema trivial de resolver. Necesitamos más sistemas software de verificación formal para IA que lleven los certificados y las pruebas de seguridad, y deberíamos integrar las herramientas de evaluación ética en los diferentes pipelines operacionales del aprendizaje automático, especialmente en aquellos opensource que tienen una gran base de usuarios, por ejemplo, scikit-learn que es utilizado por una amplia gama de usuarios, no necesariamente los más técnicos y, por lo tanto, los que más se benefician al tener estos límites éticos incorporados automáticamente". Además, la directora agregó que “Este es un desafío fuertemente transdisciplinario y es un gran cambio cultural. Necesitamos trabajar juntos para que sea una experiencia positiva y asegurar una adopción adecuada de la IA. (...) Estamos convencidos de que la IA puede acelerar el progreso en Latinoamérica, pero también puede profundizar la brecha social. Entonces, difundiendo la visión de una verdadera IA ética y de la IA para el bien social se contribuirá en dos sentidos: a reducir las brechas que revela la región y, por otro lado, a que América Latina contribuya al desarrollo de una IA ética a nivel mundial a través de la cooperación y colaboración”.

En otra mesa redonda de expertos “Ensuring inclusion, transparency, and non-discrimination in AI through the Readiness Assessment Methodology” el Foro entregó metodologías innovadoras que buscan apoyar el instrumento normativo y ayudar a los países a conocer su grado de preparación para aplicar la IA en forma ética y responsable para todos sus ciudadanos. Esto permitirá, al aplicarlas e integrarlas, predecir consecuencias, mitigar riesgos y abordar los retos sociales de acuerdo a los valores y principios de la Recomendación, suscrita el año pasado.