O CiTIUS promove unha reunión con expertos internacionais para abordar o uso da IA

Abrir un debate serio sobre os valores humanistas e os principios éticos que deben guiar o desenvolvemento da Intelixencia Artificial foi o propósito do encontro organizado polo Centro Singular de Investigación en Tecnoloxías Intelixentes da USC (CiTIUS) na Fundación Ramón Areces en Madrid.

Baixo o título ‘Social Impact of AI’, o evento reuniu expertos nacionais e internacionais para discutir sobre o impacto social da Intelixencia Artificial. O investigador do CiTIUS, José María Alonso, coordinador da Rede Nacional en Intelixencia Artificial Fiable (TELSEC4TAI), foi o encargado de organizar o foro. TELSEC4TAI é unha alianza de 12 grupos de investigación de prestixio que traballan para crear conciencia sobre a importancia de desenvolver dispositivos intelixentes e responsables, respectando os principios de non discriminación e equidade.

Durante as xornadas, destacouse a estratexia de TELSEC4TAI para promover tecnoloxías que aseguren a seguridade, cohesión social e transparencia. Este enfoque multidisciplinar reúne expertos de diversas áreas para investigar e desenvolver tecnoloxías que favorezan a confianza na IA.

O encontro tamén serviu para presentar o protocolo de Z-Inspection, unha ferramenta independente deseñada para avaliar a fiabilidade e ética das tecnoloxías baseadas en IA. Esta iniciativa, creada en 2020 en Finlandia por Roberto Zicari, conta con 37 entes asociados a nivel mundial, incluíndo o CiTIUS, que en 2023 se converteu na primeira institución española recoñecida por Z-Inspection.

Z-Inspection é un sistema holístico para avaliar a confiabilidade dos sistemas intelixentes, desenvolto conforme aos estándares da Unión Europea. A ferramenta, baseada nas contribucións de expertos en diferentes campos, identifica e debate cuestións éticas en escenarios sociotécnicos complexos.

José M. Alonso destacou a importancia do encontro para integrar o traballo da rede TELSEC4TAI con Z-Inspection® e abordar o impacto da IA en diversos ámbitos como a educación, economía e sanidade. Alonso foi impulsor da adhesión do CiTIUS a esta iniciativa global. Actualmente, tres institucións españolas están adheridas a Z-Inspection: CiTIUS, UPC-Universitat Politècnica de Catalunya e o Instituto Ramón e Cajal de Investigación Sanitaria (IRYCIS).

O evento tamén acolleu a participación de representantes do proxecto ‘Interactive Natural Language for Explainable Artificial Intelligence’ (NL4XAI), unha iniciativa pioneira na formación de novos doutores no campo da IA explicable, liderada polo CiTIUS e financiada polo programa Horizon2020 da UE. Esta rede céntrase en mellorar a capacidade das máquinas para explicar as súas decisións nunha linguaxe comprensible para os seres humanos.

Finalmente, os representantes de Z-Inspection explicaron o novo proceso de avaliación da fiabilidade das tecnoloxías baseadas en IA, seguindo as directrices do Grupo de Expertos de Alto Nivel da Unión Europea (HLEG). Esta metodoloxía, incluída no Catálogo de ferramentas e métrica de IA da OCDE, distribúese baixo a licenza Creative Commons.