Conocimiento Bóveda 5 /1 - CVPR 2015
¿Qué está mal con el Aprendizaje Profundo?
Yann LeCun
< Imagen del Resumen >

Gráfico de Conceptos & Resumen usando Claude 3 Opus | Chat GPT4o | Llama 3:

graph LR classDef convNets fill:#f9d4d4, font-weight:bold, font-size:14px classDef theory fill:#d4f9d4, font-weight:bold, font-size:14px classDef unsupervised fill:#d4d4f9, font-weight:bold, font-size:14px classDef apps fill:#f9f9d4, font-weight:bold, font-size:14px A["¿Qué está mal con
el Aprendizaje Profundo?"] --> B["El aprendizaje de extremo a extremo integra la máquina 1"] A --> C["La neurociencia inspira el reconocimiento jerárquico de patrones
2"] C --> D["LeCun fue pionero en redes convolucionales
1980s-1990s 3"] D --> E["Redes convolucionales: reconocimiento de caracteres,
segmentación 4"] D --> F["Predicción estructural en redes
convolucionales 5"] D --> G["Redes convolucionales: detección de objetos
1990s 6"] D --> H["Redes convolucionales extendidas a la
segmentación semántica 7"] D --> I["ImageNet, GPUs: avances en redes
convolucionales 8"] A --> J["La teoría del aprendizaje profundo carece de
orientación 9"] J --> K["Aprendizaje basado en energía propuesto para
razonamiento 10"] A --> L["Redes de memoria introducen componente de
memoria 11"] A --> M["Desafíos del aprendizaje no supervisado en autoencoders 12"] M --> N["Autoencoders qué-dónde acoplan redes
convolucionales y deconvolucionales 13"] A --> O["Implementaciones de hardware en desarrollo, algunas
equivocadas 14"] class B,C,D,E,F,G,H,I convNets class J,K theory class L,M,N unsupervised class O apps

Resumen:

1.- Aprendizaje profundo motivado por el aprendizaje de extremo a extremo, integrando toda la máquina en el proceso de aprendizaje.

2.- Reconocimiento jerárquico de patrones inspirado por la neurociencia, utilizando convoluciones, no linealidades y agrupamiento.

3.- Trabajo temprano de LeCun en redes convolucionales con conexiones locales y pesos compartidos en los años 1980-1990.

4.- Las redes convolucionales pueden aplicarse a imágenes completas para reconocimiento de caracteres y segmentación.

5.- La predicción estructural sobre redes convolucionales es una idea antigua, que data de principios de los años 1990.

6.- Redes convolucionales utilizadas para detección de objetos desde los años 1990, incluyendo detección de rostros y estimación de poses.

7.- Redes convolucionales extendidas a la segmentación semántica, integrando extracción de características, clasificación y segmentación.

8.- ImageNet y GPUs rápidas llevaron a resultados revolucionarios en redes convolucionales alrededor de 2012.

9.- Falta de teoría en el aprendizaje profundo respecto a arquitecturas, número de capas, parámetros efectivos y mínimos locales.

10.- Aprendizaje basado en energía propuesto como enfoque general para el razonamiento sobre el aprendizaje profundo.

11.- Redes de memoria introducen componente de memoria en el aprendizaje profundo para tareas que requieren recordar información.

12.- El aprendizaje no supervisado sigue siendo un gran desafío en el aprendizaje profundo; los autoencoders son un enfoque popular.

13.- Autoencoders qué-dónde acoplan redes convolucionales y deconvolucionales para aprendizaje no supervisado, supervisado o débilmente supervisado.

14.- Implementaciones de hardware de redes convolucionales en desarrollo, pero algunos enfoques son equivocados.

Bóveda del Conocimiento construida porDavid Vivancos 2024