O CiTIUS lidera o debate estatal sobre a Intelixencia Artificial Ética

Abrir un debate serio sobre os valores humanistas e principios éticos que deben guiar o desenvolvemento da Intelixencia Artificial foi o propósito do encontro que o Centro Singular de Investigación en Tecnoloxías Intelixentes da USC (CiTIUS) impulsou na Fundación Ramón Areces (Madrid).

‘Social Impact of AI’ reuniu estes días expertos nacionais e internacionais para discutir sobre o impacto social da Intelixencia Artificial nun foro organizado polo investigador do CiTIUS José María Alonso, coordinador da Rede Nacional en Intelixencia Artificial Fiable, unha alianza de 12 grupos de investigación de recoñecido prestixio na área, coñecida polo acrónimo anglosaxón ‘Technological, Ethical, Legal, Social, Economical, and Cultural issues for Trustworthy AI’ (TELSEC4TAI).

TELSEC4TAI tivo un especial protagonismo nas xornadas, introducindo desde distintas perspectivas os detalles da súa estratexia común para crear conciencia social sobre a importancia de avanzar cara a unha nova xeración de dispositivos intelixentes e ‘responsables’. Toda unha serie de novos sistemas e tecnoloxías deseñados para respectar e fomentar os principios de non discriminación e equidade, e que deberán ser tamén capaces de explicar as súas decisións de maneira comprensible para a cidadanía. En TELSEC4TAI axúntanse as capacidades de expertos de diversas disciplinas, co obxectivo de investigar e desenvolver tecnoloxías que promovan a seguridade, a cohesión social e a transparencia no uso da Intelixencia Artificial.

CiTIUS, primeira institución española recoñecida por Z-Inspection®
O encontro serviu ademais para presentar exemplos de uso do protocolo definido por Z-Inspection®, a primeira ferramenta independente deseñada para avaliar a fiabilidade e ética das tecnoloxías baseadas en IA. A proposta, unha iniciativa sen ánimo de lucro creada no ano 2020 en Finlandia polo investigador Roberto Zicari, conta xa cun total de 37 entes asociados en todo o mundo (26 laboratorios, 9 institucións, e 2 proxectos de investigación), entre eles o CiTIUS da USC, que en 2023 se converteu na primeira institución recoñecida por Z-Inspection® en España.

Z-Inspection® preséntase como «un sistema holístico para avaliar a confiabilidade dos sistemas intelixentes» e foi desenvolvido conforme aos estándares da Unión Europea, a modo de “lista de verificación” (ou ‘checklist’). A ferramenta baséase nas contribucións dun grupo multidisciplinar de expertos en distintos campos, cuxo labor é identificar e debater cuestións e tensións éticas en escenarios sociotécnicos complexos.

O investigador do CiTIUS José M. Alonso, co-organizador das xornadas xunto co profesor Ramón López de Mántaras, quixo destacar a importancia do encontro “para integrar o traballo da rede TELSEC4TAI con Z-Inspection® e abordar o impacto da IA en diversos ámbitos, incluíndo a educación, a economía e a sanidade”. Alonso foi quen no outono de 2023 impulsaba a adhesión do CiTIUS a esta nova posta en común a nivel global. Actualmente hai tres institucións españolas adheridas a Z-Inspection® : CiTIUS e UPC-Universitat Politècnica de Catalunya (ámbalas dúas, parte da rede TELSEC4TAI); e o Instituto Ramón e Cajal de Investigación Sanitaria (IRYCIS). Todas elas participaron nas xornadas ‘Social Impact of AI’.

Reflexión e debate sobre a IA
As xornadas transcorreron ao redor do debate sobre como a IA pode beneficiar á cidadanía sen crear unha sociedade máis dividida e insolidaria. Ademais de representantes de todos os grupos de investigación da rede española TELSEC4TAI e a iniciativa internacional Z-Inspection®, o encontro contou tamén coa participación de membros do proxecto ‘Interactive Natural Language for Explainable Aritificial Intelligence’ (NL4XAI), unha iniciativa pioneira na formación de novos doutores e doutoras no campo. Liderado polo CiTIUS e financiado polo programa Horizon2020 da UE, esta rede en ‘IA Explicable’ céntrase en mellorar a explicabilidade dos sistemas intelixentes ou, dito doutro xeito, en como mellorar a capacidade das máquinas para informar sobre “o por que” das súas decisións, nunha linguaxe sempre comprensible para os seres humanos.

Pola súa banda, os representantes da iniciativa Z-Inspection® explicaron os detalles do novo proceso para avaliar a fiabilidade das tecnoloxías baseadas en IA, no que se seguiron as directrices do Grupo de Expertos de Alto Nivel da Unión Europea (HLEG) co obxectivo de alcanzar unha IA digna de confianza. Esta metodoloxía foi incluída xa no Catálogo de ferramentas e métrica de IA da Organización para a Cooperación e o Desenvolvemento Económicos (OCDE), e distribúese baixo a modalidade de licenza Creative Commons.