Resumen: A pesar de haber cosechado muchos éxitos, el enfoque de aprendizaje profundo de la IA ha sido criticado por ser una «caja negra»: las decisiones tomadas por sistemas de aprendizaje tan grandes y complejos son difíciles de explicar o analizar. Si el sistema comete un error en una situación crítica, las consecuencias pueden ser graves. El uso de sistemas de caja negra tiene implicaciones evidentes para la transparencia, pero también para la equidad y, en última instancia, para la confianza en la IA actual. A los desarrolladores de sistemas también les gustaría aprender de los errores del sistema para poder corregirlos. El área de la IA explicable (XAI) ha tratado de abrir la caja negra proporcionando explicaciones para los grandes sistemas de IA, principalmente mediante el uso de técnicas de visualización y estudios de usuarios que tratan de asociar las decisiones tomadas por el sistema con características conocidas del modelo de aprendizaje profundo. En esta charla, argumentaré que XAI necesita extracción de conocimiento y una medida objetiva de fidelidad como prerrequisito para la visualización y los estudios de usuario. Como parte de un enfoque neurosimbólico, la extracción de conocimiento crea un puente entre el aprendizaje profundo subsimbólico y la IA simbólica basada en la lógica con una semántica precisa. Ejemplificaré cómo se puede utilizar la extracción de conocimiento en el análisis de imágenes de rayos X de tórax como parte de un proyecto de colaboración con Fujitsu Research para encontrar y corregir errores en la clasificación de imágenes. Concluiré argumentando que la extracción de conocimiento es una herramienta importante, pero es sólo uno de los muchos elementos necesarios para abordar la equidad y la responsabilidad en la IA.
Ponente: Artur Garcez es Catedrático de Informática y Director del Data Science Institute de la City University de Londres. Es doctor en Informática (2000) por el Imperial College de Londres. Es miembro de la British Computer Society (FBCS) y presidente del comité directivo de la Neural-Symbolic Learning and Reasoning Association. Es coautor de dos libros: Neural-Symbolic Cognitive Reasoning, 2009, y Neural-Symbolic Learning Systems, 2002. Sus investigaciones han dado lugar a publicaciones en las revistas Behavioral & Brain Sciences, Theoretical Computer Science, Neural Computation, Machine Learning, Journal of Logic and Computation, IEEE Transactions on Neural Networks, Journal of Applied Logic, Artificial Intelligence y Studia Logica, así como en las principales conferencias sobre IA y computación neuronal AAAI, NeurIPS, IJCAI, IJCNN, AAMAS y ECAI. El profesor Garcez ocupa cargos editoriales en varias revistas científicas en los campos de la lógica computacional y la inteligencia artificial, y ha sido miembro del comité de programa de varias conferencias, como IJCAI, IJCNN, NeurIPS y AAAI.
Grabación: DaSCI – Neurosymbolic Computing for Accountability in AI