Ponente: Marco Pedersoli es profesor adjunto en la ETS de Montreal. Obtuvo su doctorado en ciencias de la computación en 2012 en la Universidad Autónoma de Barcelona y el Centro de Visión por Computador de Barcelona. Luego, fue becario postdoctoral en visión por computador y aprendizaje automático en KU Leuven con el Prof. Tuytelaars y más tarde en INRIA Grenoble con los doctores Verbeek y Schmid. En la ETS de Montreal es miembro de LIVIA y copreside una cátedra industrial sobre redes neuronales integradas para el control de edificios conectados. Su investigación se aplica principalmente al reconocimiento visual, la interpretación y la comprensión automáticas de imágenes y vídeos. Su objetivo específico es reducir la complejidad y la cantidad de anotaciones necesarias para los algoritmos de aprendizaje profundo, como las redes neuronales convolucionales y recurrentes. El profesor Pedersoli es autor de más de 40 publicaciones en conferencias y revistas internacionales de primer nivel sobre visión por ordenador y aprendizaje automático.
Resumen: En los últimos 10 años los modelos de aprendizaje profundo (DL) han mostrado grandes avances en muchos campos diferentes, desde la visión por ordenador hasta el procesamiento del lenguaje natural. Sin embargo, los métodos de DL requieren grandes recursos computacionales (es decir, GPUs o TPUs) y conjuntos de datos muy grandes, lo que también hace que la fase de entrenamiento sea muy larga y laboriosa. Por lo tanto, existe una fuerte necesidad de reducir el coste computacional de los métodos de DL tanto en el entrenamiento como en el desarrollo. En esta charla, presentaré las líneas más comunes de enfoques utilizados para reducir los requisitos de los métodos de AD en términos de memoria y computación tanto para el entrenamiento como para el desarrollo, y mostraré cómo una reducción de la huella del modelo no siempre produce un aumento de velocidad correspondiente. Por último, presentaré algunos resultados recientes que sugieren que los modelos de DL de gran tamaño son importantes sobre todo para facilitar el entrenamiento del modelo, y cuando éste termina, podemos desplegar un modelo mucho más pequeño y rápido sin apenas pérdida de precisión.
Grabación: Efficient Deep Learning