Apareixen unes caixes misterioses enfront del Ministeri: què signifiquen?

Una vegada aprovada el Reglament Europeu d'Intel·ligència Artificial (AI Act) i quan està a punt de publicar-se el seu text final en el Diari Oficial de la Unió Europea, una coalició de 17 organitzacions socials, sota el nom de IA Ciutadana, ha demanat hui al Govern  que aplique esta nova legislació a Espanya amb el major nivell de protecció possible per a la ciutadania.

“Transparència”, “participació”, “igualtat" o “supervisió i control” són algunes de les peticions clau que s'han llegit en les enormes caixes transparents que la coalició ha instal·lat davant el Ministeri per a la Transformació Digital i de la Funció Pública, liderat pel ministre José Luis Escrivá. Emmarcant-ho tot, la petició d'una intel·ligència artificial “amb més llums que ombres”.

Les organitzacions plantegen quatre peticions fonamentals:

1. Prohibir el reconeixement biomètric en llocs d'accés públic, tant en temps real com a posteriori, i el reconeixement d'emocions en totes les seues formes. 
2. Desenvolupar un registre d'algorismes i ampliar els supòsits obligatoris en els quals l'ús d'algorismes ha de registrar-se en la base de dades d'accés públic que crea la llei europea, l'abast de la qual és limitat.

3. Garantir un marc d'igualtat per a totes les persones en els sistemes de IA, perquè no es convertisquen en una ferramenta que discrimine cap sector de la població.
4. Incorporar la participació efectiva de la societat civil en la governança de la intel·ligència artificial i en els estudis d'avaluació d'impacte sobre els drets fonamentals, així com en la definició de polítiques públiques de IA.

“El reconeixement dels trets facials i de les emocions ha de ser prohibit sense excepcions, en tots els àmbits. És una intromissió innecessària al dret a la intimitat i un abús de poder, que a més no té evidència científica i contribuïx a la societat de la vigilància" , ha afirmat Paula Guerra Càceres, portaveu de la coalició en este acte. 

“A més, la societat civil, i especialment els grups de persones afectades per l'ús de la intel·ligència artificial, han de tindre dret a supervisar estos sistemes, a exigir el cessament del seu ús si es demostra que estos estan reproduint discriminacions i a sol·licitar reparació per a les víctimes”, ha afegit la portaveu. 

Ja s'han produït casos com estos, per exemple, als Països Baixos, quan un algorisme va denegar subvencions per a cures infantils basant-se en perfils racials, o a Sèrbia, on persones amb discapacitat no van rebre assistència social per una automatització del sistema gens innocent. Al Regne Unit, una càmera de vigilància associada a un sistema de reconeixement facial va identificar erròniament a un client com a lladre reincident. A Espanya s'han implantat també estos sistemes en l'àmbit policial i de servicis socials però, malgrat les peticions de transparència, no s'aconseguix la informació per a poder estudiar el seu impacte. 

Per estos motius, les organitzacions han entregat en el registre del Ministeri una carta en la qual demanen al ministre Escrivá que compte amb el seu coneixement i l'experiència, tant per a l'aplicació de l'AI Act a Espanya, com per al desenvolupament de l'Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA), que seria l'encarregada de supervisar el compliment de la norma. Per a reforçar esta petició, membres de IA Ciutadana han replicat este acte de denúncia este mateix matí davant la seu de l'AESIA a la Corunya.

Segons la recent Estratègia de IA 2024 del Govern, l'AESIA haurà d'articular un diàleg entre la comunitat científica, la indústria i la societat civil. No obstant això, fins al moment la participació en polítiques públiques de IA ha sigut quasi inexistent, malgrat les contínues demandes de les organitzacions. 

Des de IA Ciutadana insistim que la societat civil ha de participar en la definició de polítiques sobre intel·ligència artificial. Per a això, és indispensable que la ciutadania dispose d'informació accessible i transparent sobre les funcions, agendes i mecanismes de participació en els organismes responsables de regular i controlar l'aplicació de la IA. La participació pública efectiva i diversa permet decisions més equitatives i amb major legitimitat democràtica.

Llistat d'organitzacions membres de IA Ciutadana: Algorace, Algorights, Civio, Federació de Consumidors i Usuaris CECU, Digital Fems, Ètiques, Institut de Drets Humans de Catalunya, Iridia, Komons, Lafede.cat, Novact, Oxfam Intermón, Political Watch; Observatori Treball, Algorismes i Societat. 

Organitzacions observadores: Amnistia Internacional, Fundació Secretariat Gitano, Xnet.