Un estudi de l’UJI adverteix dels límits de la intel·ligència artificial en l’àmbit moral

Una investigació de la Universitat Jaume I (UJI) adverteix dels reptes i els límits de la digitalització en l’àmbit moral. L’estudi liderat pel professor del Departament de Filosofia i Sociologia Patrici Calvo critica la colonització algorítmica del món de la vida i les conseqüències negatives que té per a la societat, especialment, per al col·lectius més vulnerables. Les conclusions del treball s’han publicat a Kriterion. Revista de Filosofia.

L'estudi pretén cridar l'atenció al voltant de la «falsa creença cada vegada més estesa entre acadèmics i tecnòlegs», segons el professor Calvo, que és possible discernir què és allò just o injust mitjançant l'ús d'algoritmes d'intel·ligència artificial. Aquest procés, conegut com etificació, és l'acció de recopilar, registrar, quantificar, processar i gestionar dades massives sobre les opinions, preferències, conductes i hàbits de la ciutadania hiperconnectada per a establir, des del criteri del major bé per a la major quantitat de gent possible, què és vàlid des del punt de vista moral per mitjà de models matemàtics artificialment intel·ligents.

Ara bé, l’actual procés de transformació digital de l’àmbit moral presenta desafiaments, argumenta l’investigador del Grup de Recerca Ètica Pràctica i Democràcia dirigit pel professor Domingo García Marzá. L’etificació «interfereix en el correcte desenvolupament dels processos comunicatius que fan possible concretar quins principis, normes, valors, sentiments i virtuts són moralment vàlids, tot desplaçant el possible consens entre afectats per una anàlisi quantitativa de la informació objectiva disponible». En paraules del professor Patrici Calvo també «converteix el saber moral en cientificotècnic, eliminant d’aquesta manera el seu interès per l’emancipació del esser humà i el seu caràcter crític i prescriptiu de la realitat social».

A més a més, l’autor pretén esbrinar els perills que comporta per a la societat l'acceptació acrítica d’aquesta ideologia tecnològica. «Marcar quins són els límits de la intel·ligència artificial en aquest sentit pot evitar conseqüències negatives de la seua aplicació precipitada i equivocada, especialment en aquells grups més vulnerables de la societat», afegeix l’investigador.

ECOSISTEMES CIBERÈTICS I DIGITALITZACIÓ SOCIAL

Entre altres qüestions importants, els intents per dataficar -quantificar el comportament humà i social reduint-lo tot a dades mesurables- l'àmbit moral «poden generar un augment de les desigualtats en totes les seues formes; de l'exclusió social; de l'heteronomia ciutadana; del paternalisme tecnològic; de les decisions amb biaix (homòfobes, aporòfobes, xenòfobes i/o misògines; de la intromissió en l'àmbit privat; de l'opacitat política; de la manipulació de l'opinió pública; de l'obstaculització de la comunicació», entre moltes altres coses, en opinió de Calvo.

Per això, aquesta recerca suggereix la necessitat de començar a dissenyar i aplicar ecosistemes ciberètics per a la gestió, monitorització i compliment de l'ètica en aquells àmbits d'activitat on s'està utilitzant la intel·ligència artificial per al seu desenvolupament, com ara l’econòmic, el polític i l’assistencial. Alhora, obre la porta a tractar de treballar en el disseny de processos de digitalització socialment responsable i moralment vàlid.

Patrici Calvo és professor d’ètica a la Universitat Jaume I, coordinador del Màster Interuniversitari en Ètica i Democràcia i membre de Comitè de Bioètica Assistencial de l'Hospital General de Castelló. Els seus treballs se centren en tres principals línies d'investigació. D'una banda, el disseny teòric i desenvolupament pràctic d’una d'economia cordial basada en l’ètica i la reciprocitat. D'un altra, el desenvolupament d’un ecosistema ciberètic per a la gestió, monitorització i compliment de l'ètica i la responsabilitat social en els diferents àmbits d'activitat humana basats en els sistemes whistleblowing, la blockchain i la participació compromesa de la societat civil. I, finalment, el desenvolupament ètic i socialment responsable d’una participació política recolzada amb algoritmes artificialment intel·ligents (democràcia algorítmica).