Conseguir una IA verdaderamente fiable implica una visión más amplia que abarque la fiabilidad de todos los procesos y actores que forman parte del ciclo de vida del sistema, y considere los aspectos anteriores desde diferentes ópticas. Una visión más holística contempla cuatro ejes esenciales: los principios globales para el uso y desarrollo éticos de los sistemas basados en la IA, una visión filosófica de la ética de la IA, un enfoque de la regulación de la IA basado en el riesgo y los pilares y requisitos mencionados.
Líneas de investigación actuales en DaSCI:
- IA explicable (XAI). Se han propuesto taxonomías influyentes para la XAI, enfoques neurales-simbólicos y habilitadores para una IA digna de confianza. Motivados por la necesidad de cumplir los requisitos de la IA fiable y la Ley de IA de la UE, los esfuerzos se centran en el desarrollo de herramientas de auditoría.
- Equidad en la IA. En la búsqueda de una IA digna de confianza, debe garantizarse que los datos que utilizan son imparciales, representativos y protegen adecuadamente la privacidad y la seguridad de las personas.
- Aprendizaje Federado y privacidad. El aprendizaje federado ha surgido como un enfoque de vanguardia que permite entrenar modelos de aprendizaje automático en dispositivos o servidores descentralizados, sin centralizar los datos brutos. Esta técnica de aprendizaje colaborativo mantiene la privacidad de los datos mediante la localización de la información sensible, al tiempo que se beneficia de la inteligencia colectiva.
- Robustez y seguridad de la IA. Campo interdisciplinar que se ocupa de prevenir accidentes, usos indebidos u otras consecuencias perjudiciales que podrían derivarse de los sistemas inteligentes.
- Enfoques de inteligencia computacional para una IA fiable. La Inteligencia Computacional (IC) es la teoría, el diseño, la aplicación y el desarrollo de paradigmas computacionales con motivaciones biológicas y lingüísticas. Tradicionalmente, los tres pilares principales de la IC han sido las redes neuronales, los sistemas difusos y la computación evolutiva. Las tecnologías basadas en la IC son útiles para abordar los requisitos de la IA fiable.
