Junto con el Instituto Francés de Chile, Inria Chile organizó el 28 de marzo de 2025, el conversatorio "¿Podemos confiar en la Inteligencia Artificial?", una instancia que llenó de un público afán de escuchar y debatir, el patio del Instituto Francés. Las científicas en ciencias de la computación, en inteligencia artificial y en ética que nutrieron la conversación, abordaron temas claves, como el significado de la confianza, la importancia de los valores comunes como los derechos humanos, y el impacto de la IA en áreas como el medioambiente, la salud, la educación, o el dominio militar.
Este conversatorio moderado por Héctor Cossio, editor general del medio digital El Mostrador, contó con la participación de la Directora de Inria Chile y Directora del Centro Binacional Franco-Chileno sobre Inteligencia Artificial, Nayat Sánchez-Pi, junto a Gabriela Arriagada, profesora asistente del Instituto de Éticas Aplicadas UC y del Instituto de Ingeniería Matemática y Computacional UC e Investigadora del CENIA; Claudia Lopéz, profesora adjunta del Departamento de Informática en la Universidad Técnica Federico Santa María e investigadora principal en CENIA y FAIR.
La instancia se organizó tras la firma de la "Declaración sobre una inteligencia artificial inclusiva y sostenible para los pueblos y el planeta", suscrita por más de 60 países durante la Cumbre de Acción sobre Inteligencia Artificial de París. Este documento enfatiza la necesidad de fortalecer la diversidad del ecosistema de inteligencia artificial para asegurar un enfoque inclusivo, abierto y multipartito, garantizando además que sea ética, segura, confiable y centrada en los derechos humanos y las personas.
El conversatorio tuvo un significativo énfasis sobre el adjetivo “confiable”, con el que el debate se centró. Desde el significado de la confianza en sí, la dependencia humana en la IA y la autonomía humana, fueron algunas de las aristas que fueron abordadas por las panelistas y el público. También se habló de cómo podemos confiar en la IA, abordando cuestiones técnicas, como la evaluación de la IA y su trazabilidad como temáticas centrales. Por otra parte, se reconoció la IA y su potencial para el bien social, como en la medicina, educación y la lucha contra el cambio climático, como también los riesgos que se pueden presentar en usos malintencionados. Además, se planteó la cuestión de la singularidad tecnológica y el futuro de la IA, con opiniones divididas sobre la posibilidad de que la IA supere la inteligencia humana, pero con un consenso en la importancia de la prudencia y la necesidad de enfocarse en los desafíos éticos presentes.
Verbatim
Es fundamental desarrollar herramientas concretas y llegar a un consenso sobre su implementación, que garanticen, desde su diseño, el respeto y cumplimiento de los valores que compartimos, al menos, los 60 países que firmamos esta declaración. Afortunadamente, en este contexto, en el Centro Binacional, contamos con iniciativas alineadas con esa visión, como la evaluación de la IA. Esta evaluación no solo aborda los sesgos, sino también otros problemas de desalineamiento con los valores humanos.
Directora de Inria Chile / Directora del Centro Binacional Franco-Chileno sobre Inteligencia Artificial
Verbatim
La inteligencia artificial nos brinda una gran ayuda para resolver muchos problemas. Sin embargo, también nos ha obligado a reflexionar sobre nosotros mismos, especialmente al enfrentar preguntas como: ¿qué ocurre si automatizamos este proceso? ¿Qué pasa si eliminamos al humano de la ecuación? A partir de ahí, creo que uno de los grandes desafíos en los últimos años ha sido comprender que no se trata solo de regular o alcanzar consensos. Desde esta perspectiva, la cuestión de la autonomía sigue siendo un tema fundamental para considerar.
Profesora asistente del Instituto de Éticas Aplicadas UC y del Instituto de Ingeniería Matemática y Computacional UC / Investigadora CENIA
Verbatim
Es muy importante fomentar más educación hacia la ciudadanía en temas de IA. Mientras no sepamos cuáles son las limitaciones de la IA ni cómo exigir que ésta preste un mejor servicio, no podremos tener las discusiones públicas necesarias para decidir, por ejemplo, si un uso específico en cierto contexto es adecuado o no. Esa discusión no puede darse sin una ciudadanía bien informada, que tenga el conocimiento necesario para ejercer mayor agencia sobre la inteligencia artificial. La educación en este ámbito es clave para que la sociedad pueda evaluar de manera crítica el impacto y las implicaciones de la inteligencia artificial.
Claudia López Profesora adjunta del Departamento de Informática en la Universidad Técnica Federico Santa María / Investigadora principal en CENIA y FAIR