Conocimiento Bóveda 5 /83 - CVPR 2023
Una Odisea de IA: la Materia Oscura de la Inteligencia
Yejin Choi
< Imagen del Resumen >

Gráfico de Conceptos & Resumen usando Claude 3 Opus | Chat GPT4o | Llama 3:

graph LR classDef ai fill:#f9d4d4, font-weight:bold, font-size:14px classDef challenges fill:#d4f9d4, font-weight:bold, font-size:14px classDef paradoxes fill:#d4d4f9, font-weight:bold, font-size:14px classDef limitations fill:#f9f9d4, font-weight:bold, font-size:14px classDef personal fill:#f9d4f9, font-weight:bold, font-size:14px A["Una Odisea de IA:
la Materia Oscura
de la Inteligencia"] --> B["Avance de IA: hiperbólico, impredecible 1"] A --> C["Los transformadores no pueden dominar la composicionalidad 2"] C --> D["Lo imposible es posible con ingeniería 3"] A --> E["El plasma genera mejor
conocimiento procedimental 4"] A --> F["Campo de IA lleno de paradojas 5"] F --> G["Materia oscura de IA:
sentido común 6"] F --> H["GPT-4 lucha con
teoría de la mente 7"] G --> I["Sentido común trivial para humanos,
difícil para IA 8"] F --> J["Paradoja de Moravec: razonamiento fácil,
sensorimotor difícil 9"] A --> K["Visión por computadora menos
impactada por LLMs 10"] A --> L["IA: generación más fácil
que comprensión 11"] A --> M["GPT-4 no supera consistentemente
a otros 12"] A --> N["Ponente: tardío en IA 13"] N --> O["Riesgos, problemas extraños
llevaron al éxito 14"] A --> P["Entorno inclusivo
fomenta trabajo innovador 15"] class A,B ai class C,D challenges class F,G,H,I,J paradoxes class E,K,L,M limitations class N,O,P personal

Resumen:

1.- El avance de la IA es hiperbólico e impredecible. CVPR 2050 podría estar en el metaverso o en Marte.

2.- Los transformadores no pueden realmente dominar la composicionalidad como la multiplicación de varios dígitos, a pesar de las apariencias. La evaluación rigurosa es importante.

3.- Lo imposible puede ser posible con la ingeniería adecuada, como destilar buenos modelos pequeños de modelos grandes débiles.

4.- El plasma, un modelo pequeño, puede generar mejor conocimiento procedimental y planes en comparación con GPT-3.

5.- El campo de la IA está lleno de paradojas - GPT-4 pasando el examen de abogacía mientras tiene grandes limitaciones.

6.- La "materia oscura" de la IA es el sentido común no expresado que los humanos usan para interpretar el lenguaje y las imágenes.

7.- GPT-4 lucha con tareas de teoría de la mente que involucran a múltiples personas, ubicaciones y objetos. Las soluciones son poco fiables.

8.- El sentido común es trivial para los humanos pero difícil para la IA. Sin embargo, el sentido común varía considerablemente incluso entre los humanos.

9.- La paradoja de Moravec - el razonamiento de alto nivel es fácil para las computadoras pero las habilidades sensorimotoras de un niño pequeño son difíciles.

10.- La visión por computadora está menos impactada por los grandes modelos de lenguaje, posiblemente debido a problemas de calidad de los datos. Se necesita más trabajo.

11.- Para la IA, la generación parece más fácil que la comprensión. Para los humanos, es lo opuesto: podemos criticar pero no generar.

12.- Incluso para el razonamiento de sentido común, GPT-4 no supera consistentemente a otros grandes modelos de lenguaje listos para usar.

13.- La ponente se considera a sí misma una "tardía" en IA, mostrando que el talento se hace, no se nace con él.

14.- Tomar riesgos y trabajar en problemas extraños ayudó a la ponente a encontrar eventualmente el éxito a lo largo de una década.

15.- Un entorno inclusivo que fomente la diversidad es importante para que las personas ganen confianza y realicen trabajos innovadores.

Bóveda del Conocimiento construida porDavid Vivancos 2024