Un proyecto de la UV para corregir sesgos de la inteligencia artificial, premiado con 600.000 euros por la Fundación BBVA
Un proyecto, impulsado por el profesor de la Universitat de València Jesús Malo López, que pretende mejorar las redes neuronales artificiales imitando las neuronas visuales naturales -un mecanismo que permite mejorar algunas de las limitaciones que presenta la inteligencia artificial- obtiene 600.000 euros de la Fundación BBVA. ‘Aprovechar las Ciencias de la Visión para superar las limitaciones críticas de las redes neuronales artificiales’ es el nombre del proyecto en el que también participan investigadores del CSIC y de la Universidad de Tubinga (Alemania).
El catedrático de Óptica de la Universitat de València Jesús Malo López es uno de los impulsores de este proyecto seleccionado por la Fundación BBVA dentro del Programa Fundamentos para el desarrollo de investigaciones de carácter fundamental y interdisciplinar.
Junto con Jesús Malo López, del Departamento de Óptica de la Facultat de Física de la Universitat de València; impulsan el proyecto Marcelo Bertalmío, Instituto de Óptica (CSIC); y Felix Wichmann, del Departamento de Ciencias de la Computación del Grupo de Procesamiento de Información Neuronal de la Universidad de Tubinga (Alemania).
Las redes neuronales artificiales son sistemas informáticos que imitan el cerebro humano y por tanto son capaces de procesar información. Están basadas en las neuronas biológicas pero presentan algunas limitaciones. Según los autores del proyecto “el gran éxito de las redes neuronales artificiales es ser el principal motor del meteórico ascenso de la inteligencia artificial en los últimos años, por lo que no es exagerado afirmar que están remodelando rápidamente la ciencia, la industria y la sociedad en general”. Pero los autores también apuntan que por eso es fundamental conocer y afrontar las limitaciones que presentan estas redes artificiales. Algunas de estas limitaciones son, por ejemplo, sesgos que pueden mostrar un comportamiento discriminatorio, o falta de explicabilidad que hace que no se pueda interpretar, de una manera explicable para el ser humano, cómo la red llega a una conclusión.
La comunidad científica está aplicando ya varias estrategias prometedoras para hacer frente a estas limitaciones, de forma que podría paliarlas o incluso resolverlas en el futuro. El problema es que hay algunos tipos de limitaciones de las redes artificiales, que se denominan críticas, para las cuales todavía no hay soluciones prometedoras y que requieren nuevos avances. Los principales problemas vienen de la rigidez de los modelos convencionales y su susceptibilidad a ataques o tendencia a tener percepciones ilusorias. También destacan como inconveniente, la cantidad de datos de entrenamiento y el coste energético asociado. Las redes actuales requieren de enormes cantidades de información para conseguir realizar el trabajo a nivel humano en una tarea determinada. Esto implica el uso de recursos informáticos muy grandes con su coste energético y emisiones de CO₂ asociados.
Las soluciones
Así, el objetivo principal del proyecto es desarrollar un marco para estas redes neuronales artificiales de manera que su comportamiento sea más similar al de los observadores humanos, en el sentido de que sean más resistentes a ataques, más fáciles de entrenar y con mejores propiedades de generalización.
Para conseguir esto, el equipo de investigadores pretende, por un lado, diseñar nuevos componentes para las redes utilizando resultados y técnicas muy recientes de las Ciencias de la Visión; por otro lado, optimizar los componentes de las redes utilizando como datos de entrenamiento resultados experimentales clave de la Psicofísica Visual; y por último, validar y poner a punto las nuevas redes para problemas fundamentales de la Visión por Ordenador.
El proyecto en el que participa la Universitat de València es uno de los cinco seleccionados, de entre 305 solicitudes, por el Programa Fundamentos que recibirán una ayuda de 600.000 euros cada uno. El objetivo de este programa es apoyar la investigación exploratoria de cuestiones centrales o fundacionales de un campo científico o de la intersección de varias disciplinas. El de la Universitat se enmarca dentro del área de Matemáticas, Estadística, Ciencias de la Computación e inteligencia Artificial. El equipo dispone de tres años para desarrollar el proyecto.
