El Govern reivindica al MWC una IA ètica i responsable basada en valors democràtics, socials, verds i feministes

Estas imágenes pertenecen a Página Oficial del Govern

El Govern, a través de l'Agència Catalana de Cooperació al Desenvolupament (ACCD), ha organitzat aquest dijous la taula rodona 'Reptes i oportunitats de la intel·ligència artificial des de la mirada del Sud Global' al Mobile World Congress i amb la col·laboració de Mobile World Capital Barcelona.

L'objectiu del debat ha estat abordar els desafiaments que planteja la intel·ligència artificial (IA) amb relació a les desigualtats i la promoció dels drets humans, però, també, el potencial que té per millorar l'accés a l'educació, la salut i altres serveis essencials. Hi han participat veus de referència des de la perspectiva del Sud Global—sovint infrarepresentades en els debats internacionals sobre la IA—, la consellera delegada de Lelapa AI, Pelonomi Moiloa, i la investigadora independent Paz Peña, amb la moderació del subdirector de la Fundació i2Cat, Artur Serra.

El conseller d'Unió Europea i Acció Exterior, Jaume Duch, n'ha fet la cloenda, durant la qual ha assenyalat dos dels principals reptes que planteja la IA en la vida quotidiana: la privadesa de les dades i els biaixos algorítmics que poden perpetuar la discriminació i les desigualtats.

Malgrat aquests desafiaments, el conseller ha subratllat el potencial de la IA per generar impactes positius, i ha recordat l'existència del 'Manifest per avançar cap a una IA fiable', impulsat pel Govern: "La Generalitat de Catalunya, d'acord amb la legislació europea, ha treballat amb un conjunt de principis rectors que estableixen que l'ús de les tecnologies, inclosa la IA, ha d'estar alineat amb els valors que defensem: transformació democràtica, social, verda i feminista", ha explicat.

"El compromís del Govern amb la defensa dels drets humans i la democràcia és infrangible. Per això organitzem actes com aquest, en espais com aquest, perquè creiem molt necessari i oportú mantenir una conversa constructiva i fructífera sobre un dels grans reptes que tenim com a societat: aconseguir que el desenvolupament tecnològic vagi acompanyat del desenvolupament de valors", ha reblat Duch. 

La mirada del Sud Global

Durant el debat, Pelonomi Moiloa, científica de dades de Johannesburg, ha assenyalat que "l'objectiu bàsic de la tecnologia, que és connectar la gent, no s'està aconseguint a tot arreu". "A Sud-àfrica", ha detallat, "la tecnologia no està adaptada a les diverses llengües locals, fet que vulnera la igualtat d'oportunitats de moltes persones en el dia a dia, quan necessiten contactar amb el banc o amb un metge". És per això que va cofundar Lelapa AI, un laboratori d'investigació i productes d'IA centrat en l'Àfrica que ha desenvolupat Vulavula, una eina que fa traduccions i transcripcions instantànies a l'afrikaans, el zulú i el sesotho, i pròximament ho farà en totes les llengües oficials de Sud-àfrica i multitud d'idiomes subsaharians.

Per la seva banda, Paz Peña, investigadora independent d'El Salvador que ha centrat la seva recerca en la intersecció entre les tecnologies digitals, el feminisme i la justícia social, ha posat el focus en qui s'està beneficiant d'aquestes tecnologies i qui n'està quedant al marge: "Es parla de la cursa d'IA entre Europa, els Estats Units i la Xina, però aquest és un marc de discussió molt perillós, que oblida la gent i els territoris". 

També ha recordat que la IA requereix minerals que es troben al Sud Global: "Tenim un rol de simple subministrador. Caldria debatre la relació colonialista que això significa". A més, les grans infraestructures que fan funcionar la IA 24 hores també necessiten electricitat i aigua. "Els impactes de la IA no paren de créixer i això no s'està debatent. Les decisions s'estan prenent des d'espais de poder corporatiu i el Sud Global no hi és present", ha lamentat Peña.

El 'Manifest per avançar cap a una IA fiable'

El Govern de la Generalitat, a través de la Secretaria de Polítiques Digitals i en col·laboració amb l'Observatori d'Ètica en Intel·ligència Artificial (OEIAC) de la Universitat de Girona, va elaborar el 'Manifest per avançar cap a una IA fiable' en el marc de l'Estratègia d'intel·ligència artificial de Catalunya-Catalonia.AI.

El manifest, presentat el passat 6 de novembre en el marc de la primera Cimera Anual de l'Aliança de Tecnologies Disruptives i Emergents (DETA), fa una diagnosi dels reptes i oportunitats de la integració de la IA en la vida quotidiana per establir una sèrie de compromisos basats en uns valors fonamentals (dignitat humana, democràcia i estat de dret) i fer una crida a l'acció per avançar cap a una IA fiable. 

El document també inclou una sèrie de recomanacions per fomentar un entorn on la IA es desenvolupi i es governi d'acord amb els valors fonamentals i els compromisos establerts, i apropar-se així a l'objectiu d'assolir una IA "millor", que reforci la justícia social i contribueixi als objectius més amplis de l'Agenda 2030 per al desenvolupament sostenible.