Gráfico de Conceptos & Resumen usando Claude 3 Opus | Chat GPT4o | Llama 3:
Resumen:
1.- El avance de la IA es hiperbólico e impredecible. CVPR 2050 podría estar en el metaverso o en Marte.
2.- Los transformadores no pueden realmente dominar la composicionalidad como la multiplicación de varios dígitos, a pesar de las apariencias. La evaluación rigurosa es importante.
3.- Lo imposible puede ser posible con la ingeniería adecuada, como destilar buenos modelos pequeños de modelos grandes débiles.
4.- El plasma, un modelo pequeño, puede generar mejor conocimiento procedimental y planes en comparación con GPT-3.
5.- El campo de la IA está lleno de paradojas - GPT-4 pasando el examen de abogacía mientras tiene grandes limitaciones.
6.- La "materia oscura" de la IA es el sentido común no expresado que los humanos usan para interpretar el lenguaje y las imágenes.
7.- GPT-4 lucha con tareas de teoría de la mente que involucran a múltiples personas, ubicaciones y objetos. Las soluciones son poco fiables.
8.- El sentido común es trivial para los humanos pero difícil para la IA. Sin embargo, el sentido común varía considerablemente incluso entre los humanos.
9.- La paradoja de Moravec - el razonamiento de alto nivel es fácil para las computadoras pero las habilidades sensorimotoras de un niño pequeño son difíciles.
10.- La visión por computadora está menos impactada por los grandes modelos de lenguaje, posiblemente debido a problemas de calidad de los datos. Se necesita más trabajo.
11.- Para la IA, la generación parece más fácil que la comprensión. Para los humanos, es lo opuesto: podemos criticar pero no generar.
12.- Incluso para el razonamiento de sentido común, GPT-4 no supera consistentemente a otros grandes modelos de lenguaje listos para usar.
13.- La ponente se considera a sí misma una "tardía" en IA, mostrando que el talento se hace, no se nace con él.
14.- Tomar riesgos y trabajar en problemas extraños ayudó a la ponente a encontrar eventualmente el éxito a lo largo de una década.
15.- Un entorno inclusivo que fomente la diversidad es importante para que las personas ganen confianza y realicen trabajos innovadores.
Bóveda del Conocimiento construida porDavid Vivancos 2024