Inteligencia Artificial Confiable

Se ha definido la Inteligencia Artificial (IA) de confianza como aquella basada en siete requisitos técnicos que además son sustentados por tres pilares principales a cumplir a lo largo de todo el ciclo de vida del sistema. Los pilares dicen que la IA debe ser: (i) legal, (ii) ética y (iii) robusta, tanto desde una perspectiva técnica como social. Los siete requisitos son: (1) agencia y supervisión; (2) solidez técnica y seguridad; (3) privacidad y gobernanza de los datos; (4) transparencia; (5) diversidad, no discriminación y equidad; (6) responsabilidad social y medioambiental; (7) rendición de cuentas. Conseguir una IA verdaderamente fiable implica una visión más amplia que abarque la fiabilidad de todos los procesos y actores que forman parte del ciclo de vida del sistema, y considere los aspectos anteriores desde diferentes ópticas. Una visión más holística contempla cuatro ejes esenciales: los principios globales para el uso y desarrollo éticos de los sistemas basados en la IA, una visión filosófica de la ética de la IA, un enfoque de la regulación de la IA basado en el riesgo y los pilares y requisitos mencionados.

Líneas de investigación actuales en DaSCI:

  • IA explicable (XAI). Se han propuesto taxonomías influyentes para la XAI, enfoques neurales-simbólicos y habilitadores para una IA digna de confianza. Motivados por la necesidad de cumplir los requisitos de la IA fiable y la Ley de IA de la UE, los esfuerzos se centran en el desarrollo de herramientas de auditoría.
  • Equidad en la IA. En la búsqueda de una IA digna de confianza, debe garantizarse que los datos que utilizan son imparciales, representativos y protegen adecuadamente la privacidad y la seguridad de las personas.
  • Aprendizaje Federado y privacidad. El aprendizaje federado ha surgido como un enfoque de vanguardia que permite entrenar modelos de aprendizaje automático en dispositivos o servidores descentralizados, sin centralizar los datos brutos. Esta técnica de aprendizaje colaborativo mantiene la privacidad de los datos mediante la localización de la información sensible, al tiempo que se beneficia de la inteligencia colectiva.
  • Robustez y seguridad de la IA. Campo interdisciplinar que se ocupa de prevenir accidentes, usos indebidos u otras consecuencias perjudiciales que podrían derivarse de los sistemas inteligentes.
  • Enfoques de inteligencia computacional para una IA fiable. La Inteligencia Computacional (IC) es la teoría, el diseño, la aplicación y el desarrollo de paradigmas computacionales con motivaciones biológicas y lingüísticas. Tradicionalmente, los tres pilares principales de la IC han sido las redes neuronales, los sistemas difusos y la computación evolutiva. Las tecnologías basadas en la IC son útiles para abordar los requisitos de la IA fiable.

Investigadores relacionados:

Letra:

  Nombre Email Área Cat.
Casillas Barranquero, Jorge casillas@decsai.u@e5vAM0Hwgr.es
natalia-diaz
Díaz Rodríguez, Natalia ndiaz@deOtFxAs7csai.ugr.es
Fernández Hilario, Alberto alberto@dWWiWFqecsai.ugr.es
Gacto Colorado, María José mjgacto@ug8leZYbTr.es
González García, Pedro pglez@uyyEdYdUkGUm4jaen.es
Herrera Triguero, Francisco herrera@decsai.cEHYLGhHQXugr.es
Herrera Viedma, Enrique viedma@de7k6.nscsai.ugr.es
Luzón García, María Victoria luzon@q_nYUMsDugr.es
Martínez López, Luis martinmPBXvHg@ujaen.es