Investigadors de la UA treballen un sistema per a detectar notícies falses, llenguatge nociu i contingut generat per IA
La catedràtica de la Universitat d'Alacant, Estela Saquete, lidera aquest projecte, finançat amb ajudes del CENID
La directora del Departament de Llenguatges i Sistemes Informàtics i catedràtica de la Universitat d’Alacant (UA), Estela Saquete, lidera un estudi dirigit al desenvolupament d’un sistema capaç de detectar notícies falses, llenguatge nociu i informacions i continguts generats de manera automàtica per intel·ligència artificial.
L’estudi s’inscriu en l’estratègia del Centre d’Intel·ligència Digital de la província d’Alacant, CENID, impulsat conjuntament per la Universitat d’Alacant, la Diputació d’Alacant i la Universitat Miguel Hernández d’Elx, i respon a la seua estratègia de tractar diferents desafiaments clau, ajustats a les inquietuds actuals de la societat, entre aquests la proliferació de la desinformació, el discurs d’odi i el contingut generat per intel·ligència artificial.
En concret, aquesta investigació analitza diferents tecnologies i eines digitals, com el processament del llenguatge natural o tècniques de deep learning, amb l’objectiu d’ajudar les institucions públiques a promoure un entorn digital segur. Com a resultat d’aquestes investigacions, el projecte proposa un model tecnològic basat en la creació d’un dataset o conjunt de dades estructurat, que permetrà desenvolupar models de llenguatge avançats, optimitzats per a la detecció de confiança, violència i contingut que provinga d’intel·ligència artificial.
A més, aquesta eina s’entrenarà amb models de llenguatge que s’ajustaran progressivament per a millorar la precisió en cadascuna de les àrees d’anàlisis. Es dissenyarà i implementarà una interfície que integre els algorismes i models del sistema, que facilitaran la seua aplicació en l’entorn digital, amb un enfocament inicial a la província d’Alacant. Posteriorment, es durà a terme una avaluació interna de cada mòdul i una prova experimental en una administració pública de la província d’Alacant per a validar-ne l’eficàcia.
Diverses fases
Per a l’execució del projecte són diverses les activitats plantejades i que està previst que es duguen a terme. En primer lloc, el treball començarà analitzant i determinant quines són les amenaces que poden afectar els diferents col·lectius de la societat. El segon pas serà fer un informe que arreplegue els tipus de violència patits per la ciutadania i treballadors de les administracions.
En paral·lel, es farà un estudi sobre l’aplicació i la millora de la tecnologia del processament del llenguatge natural (PLN) per a detectar i reduir aquestes amenaces. A continuació, i com a resultat dels estudis anteriorment esmentats, es dissenyarà un model que permeta aplicar tecnologies de processament del llenguatge per a detectar amenaces en el consum d’informació, especialment, dins de l’administració pública local. Finalment, es presentarà el projecte en diferents convocatòries nacionals i internacionals, amb l’objectiu d’ampliar la seua visibilitat i impacte.
Aquesta iniciativa representa un avanç significatiu en la seguretat digital i la protecció de la ciutadania en un entorn cada vegada més interconnectat a través de l’ús de tecnologies avançades, que desenvolupa solucions innovadores per a combatre la desinformació, prevenir riscos i enfortir la ciberseguretat.
