Sobre la importancia de una estrategia nacional de IA: entrevista con Fabien Le Voyer y Karteek Alahari

Fabien Le Voyer: Hay que recordar que Inria organizó, junto con el Estado francés, una primera cumbre mundial en 2019. Desde entonces, ha pasado mucho tiempo y esta cumbre permitirá que un ecosistema de actores -representantes de Estados, empresas, científicos y actores de la sociedad- se reúnan y dialoguen sobre el impacto de la inteligencia artificial, sus oportunidades, la necesidad de regular la tecnología, así como las necesidades de la comunidad internacional, por ejemplo, en términos de acceso a la computación o a ciertos modelos de lenguaje y datos, especialmente en los países del Sur.

Para tomar un ejemplo concreto, en una de las cinco temáticas del evento (Futuro del trabajo, Innovación, Gobernanza, IA al servicio del interés general, Confianza), la de la confianza y, en particular, la evaluación de la IA, el evento permite que varios actores estatales encargados de identificar los riesgos inherentes a los sistemas avanzados de IA, los Institutos de Seguridad de la IA, colaboren mediante experimentos conjuntos entre diferentes países, compartan métodos de evaluación comunes, apliquen benchmarks a un conjunto de modelos e interpreten los resultados conjuntamente, con una dimensión multicultural, por ejemplo, sobre los sesgos. Estas experimentaciones se integran en la dinámica de las Cumbres de Seguridad de la IA lanzadas en la cumbre internacional de Bletchley Park a finales de 2023 en Gran Bretaña, de la cual la Cumbre de Acción sobre la Inteligencia Artificial es la continuación. Esta discusión internacional sobre la evaluación y los riesgos es necesaria, ya que permite avanzar hacia una comprensión mutua de los desafíos, así como hacia referenciales comunes a largo plazo.

Hemos estado trabajando durante más de un año en estos temas con otros actores públicos, con los cuales Inria tiene acuerdos bilaterales desde hace varios años: el LNE (Laboratorio Nacional de Ensayos), el PEReN (el centro de experticia sobre la regulación digital en Bercy, con el cual trabaja el proyecto RegalIA dirigido por Benoît Rottembourg) y la ANSSI. El 31 de enero se lanzó oficialmente, bajo la dirección de la DGE y el SGDSN (el Secretariado General de Seguridad y Defensa Nacional), el Instituto Nacional para la Evaluación y Seguridad de la IA (INESIA). Este instituto no tiene personalidad jurídica (no se crea un nuevo ente) pero nos permitirá trabajar juntos con una estrategia común para abordar todos los desafíos. Será la contribución francesa a la red de Institutos de Seguridad de la IA, con una diferencia mayor: el INESIA se inscribe en un marco regulatorio, el AI Act (o RIA), y no aborda únicamente los desafíos de seguridad de la IA. Tiene la vocación de orientar sus actividades de investigación e innovación en un campo más amplio: el de un conjunto de sistemas de IA (y no solo los sistemas generativos o avanzados) que están destinados a ser regulados por el RIA. De este modo, el INESIA proporcionará métricas, metodologías y protocolos de evaluación en todo el campo de obligaciones del reglamento (Artículos 8 a 15 sobre fiabilidad, robustez, ciberseguridad, transparencia, etc.). Este instituto tendrá varias misiones: consolidar un programa de investigación dirigido por Inria, en el marco de la Agencia de Programas, e involucrar a toda la comunidad científica nacional en los desafíos de la evaluación de la IA, apoyar al regulador en la implementación del AI Act, evaluar el rendimiento y la fiabilidad de los sistemas y compararlos entre sí, creando nuevos benchmarks cuando sea necesario, por ejemplo, en lengua francesa. Los temas que se abordarán conciernen a muchos colegas, ya sea en equipos de proyectos o en funciones relacionadas con la transferencia o el desarrollo tecnológico: muchos, junto con colegas de otros actores académicos (universidades u organismos), ya han sido asociados a la construcción del Programa de la Agencia, y les agradezco por ello. Es importante que la investigación pública sea parte de una iniciativa como esta, porque si no se tiene acceso a la vanguardia de la ciencia y la tecnología, no es posible avanzar en temas como estos.

Fabien Le Voyer: En primer lugar, podemos estar orgullosos de que el Comité Científico del evento científico, organizado por IPParis (a través del Clúster de IA Hi-Paris, del cual Inria es miembro), esté presidido por Michael Jordan, quien se ha unido a Inria (equipo-proyecto SIERRA del Centro Inria de París) en el marco de una cátedra industrial de la Fundación Inria.

A nivel institucional, Inria está presente en varios aspectos: como coordinador del ámbito de investigación de la estrategia nacional en IA (PNRIA), y también como coordinador de los actores de la enseñanza superior y la formación, Inria tiene un papel preponderante en la organización de la cumbre. En particular, destacará a los actores de la ESR en IA, incluyendo los 9 clústeres de IA en el evento científico los días 6 y 7 de febrero en la École Polytechnique. También hemos impulsado eventos para el gran público organizados por los Clústeres de IA, con una fuerte participación de los Centros Inria, durante el fin de semana del 8 y 9 de febrero. Este es también el momento para que Inria subraye la importancia de los objetivos nacionales de esta estrategia nacional en IA, liderados a su nivel, y que se integran en el corazón de las temáticas prioritarias de la Cumbre:

• En el eje Futuro del Trabajo, el LaborIA, la estructura conjunta entre Inria y el Ministerio de Trabajo y Empleo, estudia el impacto de la IA en el futuro del trabajo, especialmente acompañando a estructuras públicas en la implementación de sistemas de IA o analizando su impacto en profesiones específicas. Esto, por supuesto, también está relacionado con la apertura de Inria a las ciencias humanas y sociales, una prioridad de nuestro COMP. Más allá del nivel nacional, el LaborIA participa en la dinámica internacional de la Cumbre, ya que se lanzará una red internacional de laboratorios sobre IA y trabajo para impulsar investigaciones de campo en diferentes países y calificar este impacto.

• En cuanto a la Gobernanza, Inria lidera el Centro de Experticia de una red de tres centros que realizan trabajos para la Asociación Mundial para la IA (PMIA) en estrecha cooperación con el CEIMIA en Montreal y el NICT en Tokio, un socio mayor de Inria en Japón. Esta Cumbre será la ocasión de reunir ampliamente (representantes estatales, expertos internacionales, instituciones internacionales) en torno a nuevos proyectos comunes, como, por ejemplo, sobre la propiedad intelectual y la IA generativa, o lo que se denomina "IA agente", con agentes más "autónomos".

• En el eje Confianza, Inria, a través del Instituto Nacional para la Evaluación y Seguridad de la IA (INESIA), que acabamos de mencionar, también ha contribuido a la redacción de un informe sobre los riesgos de la IA en materia de ciberseguridad y publicará un leaderboard, con la coordinación nacional en IA, Hugging Face, el GENCI y el LNE, integrando benchmarks inéditos en lengua francesa. En la jerga de la IA, un leaderboard permite dar resultados de comparación de rendimiento de los modelos. Uno de los benchmarks integrará, en particular, preguntas de los conjuntos de datos de evaluación del bachillerato, con el objetivo de comparar el rendimiento de los LLM en lengua francesa.

Más allá de los objetivos de la estrategia nacional en IA, muchos científicos han contribuido a iniciativas y entregables de la Cumbre (me será muy difícil no olvidar a algunos):

• En el eje Innovación, Inria participa en un Desafío conjunto con nuestra spin-off Probabl para certificar las competencias de los científicos de datos de las administraciones públicas en la biblioteca de software scikit-learn.

• En el eje IA al servicio del interés general, podemos mencionar, entre otros, la valorización de los archivos abiertos de software libre en el contexto de la IA generativa en torno a Software Heritage.

Finalmente, Inria también estará presente en las temáticas ambientales, especialmente con Jacques Sainte-Marie, con la contribución al informe sobre el alineamiento de los desafíos técnicos del hardware para la eficiencia energética y la economía circular, y la participación en el debate público sobre IA organizado por el "Tribunal de las generaciones futuras".

Fabien Le Voyer: El PMIA es una organización internacional ahora vinculada a la OCDE, cuyo objetivo es proporcionar proyectos concretos y viables para la comunidad internacional en tres ámbitos: ciencia, soluciones y estándares. Fue lanzado en 2018 con la ambición de construir una red de expertos similar a la que ha trabajado durante décadas en el ámbito del clima, el IPCC/GIEC. Trabajamos con expertos internacionales para desarrollar federaciones de comunidades, así como para contribuir al desarrollo de soluciones técnicas para la comunidad internacional. Inria lidera el Centro de Experticia de París, junto con los otros dos centros de Tokio y Montreal. Los centros de experticia del PMIA dirigen el despliegue de parte de estos proyectos: organizan, promueven y federan.

A través de este rol institucional, y aprovechando especialmente los vínculos científicos históricos de Inria con varios socios internacionales, Inria permite que la investigación pública sea activa y no solo espectadora de esta dinámica, apoyando también la diplomacia digital de Francia. La aproximación es multilateral, pero también bilateral, como ilustra la creación reciente (en noviembre de 2024) del Centro Binacional Franco-Chileno en IA, liderado por Inria Chile.

Fabien Le Voyer: El Estado confió a Inria la coordinación en 2018, y esto también implica la dirección de objetivos nacionales, como acabamos de mencionar. Ahora que los 3IA, y ahora los 9 Clústeres de IA, están bien establecidos en el panorama nacional, es importante reforzar también la coordinación por parte de Inria para que haya coherencia entre la estrategia nacional y la estrategia de cada sitio universitario. Un Clúster de IA es liderado por una universidad con un consorcio de actores. Este rol de coordinación es un desafío importante para los próximos años y se beneficia también de las relaciones de confianza que hemos construido con las universidades desde 2019, con los Centros Inria de las universidades. Entre los objetivos nacionales, que están reunidos en el Programa de IA de la Agencia de Programas, puedo mencionar:

• En el marco de la política industrial del Estado, la iniciativa P16 apoya el despliegue de scikit-learn, una de las bibliotecas de software más utilizadas en el mundo. También se desarrolla con la creación de una startup spin-off de Inria, Probabl, cuya misión de interés público es modernizar scikit-learn y orientarla hacia las prácticas empresariales. P16 identifica además un conjunto de bibliotecas de software sobre el ciclo de vida de los datos antes de su procesamiento por la IA (interoperabilidad, preparación, limpieza, etc.), que serán mantenidas y consolidadas en un común digital soberano para la IA, completo y alineado con las necesidades de las empresas.

• El PEPR IA, que Inria copilota con el CEA y el CNRS en el marco del plan de inversión "Francia 2030", es un programa de investigación que apoya proyectos y cátedras en áreas como la IA de confianza, la IA frugal y los fundamentos matemáticos de la IA.

• El proyecto RegalIA, sobre la transparencia de los algoritmos, lanzado en 2020, proporciona algoritmos, datos y herramientas de software para identificar los comportamientos de los algoritmos utilizados por las grandes plataformas digitales (Amazon, Booking.com, Airbnb, etc.), especialmente en lo que respecta a la fijación de precios y la clasificación de ofertas. Es solicitado por varias autoridades públicas, como la Corte de Cuentas, para proporcionar una pericia que califique las prácticas de estos algoritmos, y también trabaja con el PeREN, el centro de experticia sobre la regulación digital en Bercy.

• Para facilitar el acceso a las capacidades de cálculo europeas, especialmente para las empresas, Inria acaba de consolidar con el GENCI la respuesta francesa a la convocatoria europea de las AI Factories, que tiene como objetivo centralizar un dispositivo único para todos los actores (empresas, actores de la investigación, administraciones) que necesiten acceder a cuotas de horas de cálculo. El valor añadido es poder acceder a todas las capacidades de cálculo europeas apoyadas por EuroHPC, así como a un conjunto de servicios: en IA, en la nube, en el acceso a bases de datos y en la preparación de datos.

Karteek Alahari: Como hemos visto, la evaluación de la IA es un tema central, explorado por varios equipos de investigación en todo el mundo, pero sin un movimiento organizado. Cada mes salen nuevos modelos, y si no somos capaces de evaluarlos -en términos de riesgos, limitaciones, problemas de seguridad-, no podremos explicar a las empresas ni al público en general cómo utilizar estos modelos y por qué utilizarlos (o no). La investigación debe organizarse porque, más allá de las cuestiones puramente técnicas, la IA plantea muchas preguntas éticas y de regulación. También hay una demanda de las sociedades contemporáneas para comprender los desafíos de la IA, y por lo tanto, una responsabilidad para nosotros de estudiar los sistemas, las limitaciones y los impactos sociales de la IA.

Inria, como instituto de investigación público, es un actor neutral que debe desarrollar una forma de confianza digital: tenemos la vocación de trabajar con todos los actores posibles para la seguridad y el conocimiento de dichos modelos.

Otro tema en el que Inria tiene una posición fuerte es la frugalidad. En los últimos días, hemos visto pruebas de la frugalidad posible de una IA potente con el lanzamiento de DeepSeek. Frugalidad en los datos, frugalidad en los cálculos, etc. Cada vez más actores, incluido Inria, están abordando estos temas. Es necesario que el mundo académico y el mundo industrial puedan avanzar con pocos recursos y crear modelos eficientes, aunque modestos en términos de cálculo y datos.

Karteek Alahari: Uno de los ejes principales del PEPR IA es precisamente la frugalidad de los modelos de IA. Muchos de nuestros equipos trabajan en este tema. Por ejemplo, el proyecto Sharp (equipo-proyecto Ockham en el Centro Inria de Lyon con la ENS de Lyon, la Universidad Claude Bernard y el CNRS) se centra en el diseño de algoritmos de optimización y aprendizaje intrínsecamente frugales en recursos, al mismo tiempo que controla matemáticamente su rendimiento y robustez frente a errores de modelado.

También podemos mencionar al equipo-proyecto Datamove, en colaboración con la Universidad Grenoble Alpes y el Clúster de IA MIAI, que centra sus investigaciones en la optimización de los movimientos de datos para el cálculo intensivo. Estos movimientos son una fuente importante de consumo de energía para el cálculo intensivo y, por lo tanto, un objetivo relevante para mejorar la eficiencia energética de las máquinas.

Otros equipos trabajan más específicamente en la IA embarcada. En el Centro Inria de la Universidad de Rennes, el equipo-proyecto Taran parte de un postulado: la clave para mejorar de manera sostenible el rendimiento (velocidad y energía) reside en los calculadores específicos de un dominio. En esta nueva era, el procesador se verá aumentado con un conjunto de aceleradores de hardware destinados a ejecutar tareas específicas de manera mucho más eficiente que un procesador generalista. Taran se centra en el diseño de aceleradores que serán eficientes en energía y tolerantes a fallos.

El equipo-proyecto Corse, por su parte, responde al desafío del rendimiento y el consumo energético que plantea hoy la industria electrónica, donde los compiladores y entornos de ejecución deben evolucionar e interactuar.

Otro tema central es el impacto de los modelos de IA que están disponibles para todos, ciudadanos, estudiantes, etc., en nuestras sociedades. Esto es lo que estudia, por ejemplo, el equipo-proyecto Flowers en el Centro Inria de la Universidad de Burdeos. Trabajan en el uso de herramientas de IA generativa como ChatGPT en las escuelas: ¿cómo se utilizan? ¿cuáles son sus efectos en los métodos y resultados del aprendizaje? Es necesario educar sobre las herramientas, pero también sobre sus limitaciones y peligros. Deepseek parece rápido y frugal, pero también borra información solicitada sobre las manifestaciones de la Plaza de Tiananmén. Necesitamos investigación para encontrar mejores formas de informar al público en general, educar en el análisis crítico de las fuentes y los sesgos de la IA. Y la creación de herramientas no podrá hacerse sin la cooperación de las empresas.

Karteek Alahari: Ya existen iniciativas. La primera fue CLAIRE (ahora CAIRNE), una confederación paneuropea de unos cien laboratorios de investigación y científicos en inteligencia artificial en Europa, donde Inria está asociado con nuestro socio estratégico alemán, el DFKI. Otra red de excelencia, ELLIS (Laboratorio Europeo de Aprendizaje y Sistemas Inteligentes), se centra en la ciencia fundamental, la innovación y los impactos sociales de la IA.

Estas dos redes han obtenido resultados: además de los eventos para el gran público que han organizado, las conferencias científicas han permitido crear varias comunidades de intercambio de conocimientos y una red eficaz de doctorandos. Esto es quizás lo más importante: hay que llegar a los jóvenes que harán la IA del mañana.

Otra iniciativa importante a nivel europeo es Adra-e, para constituir un ecosistema entre actores de la IA, la ciencia de datos y la robótica, para el cual Inria está a cargo de la coordinación.

En cada dominio de la IA, como en robótica o en procesamiento automático del lenguaje, los vínculos se tejen a través de las grandes conferencias científicas, que son primordiales. No se puede evaluar, modelar, normar ni educar sin tener en cuenta el ecosistema digital, tanto a nivel nacional como internacional.

*Esta entrevista fue originalmente publicada en la página inria.fr.