El Fin Del Conocimiento - Bóveda 1 - Lex 100+ / 104 (20/06/2024) -Aravind Srinivas : CEO de Perplexity sobre el Futuro de la IA- Búsqueda & Internet

graph LR classDef accuracy fill:#d4f9f9,font-weight:bold,font-size:14px classDef engine fill:#f9d4f4,font-weight:bold,font-size:14px classDef model fill:#f9f9d4,font-weight:bold,font-size:14px classDef infra fill:#d4d4f9,font-weight:bold,font-size:14px classDef vision fill:#d4f9d4,font-weight:bold,font-size:14px classDef growth fill:#f9d4d4,font-weight:bold,font-size:14px Main["Núcleo de Perplexity"] Main --> A1["Obliga a citar cada frase. 1"] A1 --> G1["Precisión"] Main --> A2["La búsqueda alimenta fragmentos al LLM. 2"] A2 --> G2["Motor"] Main --> A3["Motor de descubrimiento de conocimiento. 3"] A3 --> G2 Main --> A4["Bot de Slack reveló errores. 4"] A4 --> G1 Main --> A5["Revisión por pares de cada afirmación. 5"] A5 --> G1 Main --> A6["Modelo de suscripción sobre anuncios. 6"] A6 --> G3["Modelo"] Main --> A7["Evitar 10 enlaces azules. 7"] A7 --> G2 Main --> A8["Latencia como Google temprano. 8"] A8 --> G4["Infraestructura"] Main --> A9["Experimentos de código abierto. 9"] A9 --> G3 Main --> A10["Cadena de auto-mejora de racionales. 10"] A10 --> G3 Main --> A11["Razonamiento separado de memoria. 11"] A11 --> G3 Main --> A12["Curiosidad no igualada por IA. 12"] A12 --> G5["Visión"] Main --> A13["Clústeres de millones de GPUs. 13"] A13 --> G5 Main --> A14["Control de acceso a computación. 14"] A14 --> G5 Main --> A15["Páginas crean artículos compartibles. 15"] A15 --> G2 Main --> A16["Mezcla de rastreo, incrustación y actualidad. 16"] A16 --> G2 Main --> A17["Respuestas basadas en texto. 17"] A17 --> G1 Main --> A18["Alucinaciones por fragmentos obsoletos. 18"] A18 --> G1 Main --> A19["Núcleos TensorRT-LLM. 19"] A19 --> G4 Main --> A20["Intercambiar GPT Claude Sonar. 20"] A20 --> G3 Main --> A21["Empezar por obsesión. 21"] A21 --> G6["Crecimiento"] Main --> A22["Demo en Twitter impresionó inversores. 22"] A22 --> G6 Main --> A23["Resúmenes de auto-búsqueda virales. 23"] A23 --> G6 Main --> A24["UI minimalista equilibrada. 24"] A24 --> G6 Main --> A25["Preguntas relacionadas guían. 25"] A25 --> G2 Main --> A26["Ideas personalizadas diarias. 26"] A26 --> G2 Main --> A27["Ajustes de profundidad personalizados. 27"] A27 --> G2 Main --> A28["Riesgos de contexto largo. 28"] A28 --> G3 Main --> A29["Entrenadores IA florecen. 29"] A29 --> G5 Main --> A30["Humanos hacen preguntas novedosas. 30"] A30 --> G5 G1["Precisión"] --> A1 G1 --> A4 G1 --> A5 G1 --> A17 G1 --> A18 G2["Motor"] --> A2 G2 --> A3 G2 --> A7 G2 --> A15 G2 --> A16 G2 --> A25 G2 --> A26 G2 --> A27 G3["Modelo"] --> A6 G3 --> A9 G3 --> A10 G3 --> A11 G3 --> A20 G3 --> A28 G4["Infraestructura"] --> A8 G4 --> A19 G5["Visión"] --> A12 G5 --> A13 G5 --> A14 G5 --> A29 G5 --> A30 G6["Crecimiento"] --> A21 G6 --> A22 G6 --> A23 G6 --> A24 class A1,A4,A5,A17,A18 accuracy class A2,A3,A7,A15,A16,A25,A26,A27 engine class A6,A9,A10,A11,A20,A28 model class A8,A19 infra class A12,A13,A14,A29,A30 vision class A21,A22,A23,A24 growth

Resumen:

Aravind Srinivas relata cómo Perplexity comenzó como un experimento para hacer que los modelos de lenguaje grandes fueran confiables para preguntas cotidianas, obligándolos a citar cada afirmación, como un artículo académico. La idea surgió cuando el equipo fundador, sin conocimiento de seguros, se dio cuenta de que las respuestas crudas de GPT podían engañar; anclar cada frase a fuentes web redujo las alucinaciones y convirtió a los chatbots en compañeros de investigación confiables. Este matrimonio entre recuperación de búsqueda y generación disciplinada se convirtió en el núcleo del producto, evolucionando de un bot de Slack a un motor de respuestas público que prioriza conocimiento verificable sobre opinión.

Posiciona a Perplexity no como un rival de Google, sino como un motor de descubrimiento de conocimiento que comienza donde termina la búsqueda tradicional. Después de entregar una respuesta concisa y con notas al pie, la interfaz muestra preguntas relacionadas, guiando a los usuarios hacia una exploración impulsada por la curiosidad. Srinivas argumenta que el valor a largo plazo está en este viaje guiado, no en enlaces azules o espacios publicitarios, y detalla cómo la latencia, la fidelidad de citas y la sugerencia recursiva de preguntas crean un bucle adictivo que mantiene a los usuarios aprendiendo mucho después de su primera consulta.

La conversación también explora la economía y la ética de la escala de la IA. Srinivas señala que quien pueda permitirse ejecuciones masivas de inferencia—clústeres de millones de GPUs—desbloqueará el siguiente nivel de razonamiento, donde los sistemas iteran internamente durante días y devuelven avances no triviales. Sin embargo, enfatiza que los modelos de código abierto, las señales de clasificación transparentes y el diseño centrado en el usuario pueden democratizar el acceso y mitigar la concentración de poder. Finalmente, enmarca la misión de Perplexity como amplificar la curiosidad humana, creyendo que mejores herramientas para hacer y verificar preguntas expandirán la inteligencia colectiva sin reemplazar el impulso humano único de preguntarse.

30 Ideas Clave:

1.- Perplexity obliga a los LLMs a citar cada frase, reduciendo alucinaciones como artículos académicos.

2.- La búsqueda recupera fragmentos web relevantes, alimentando un LLM que escribe respuestas concisas con notas al pie.

3.- El producto se convierte en un motor de descubrimiento de conocimiento, mostrando preguntas de seguimiento para profundizar en viajes de curiosidad.

4.- El bot inicial de Slack reveló inexactitudes de GPT, inspirando precisión basada en citas al estilo Wikipedia.

5.- Los fundadores aplicaron disciplina de revisión por pares: cada afirmación debe ser rastreable a múltiples fuentes reputadas.

6.- Los modelos impulsados por anuncios incentivan clics sobre claridad; Perplexity explora suscripciones y anuncios sutiles y relevantes.

7.- La subasta AdWords de Google maximiza ingresos; innovaciones de menor margen se evitan, creando brechas de oportunidad.

8.- Perplexity evita "10 enlaces azules", apostando que respuestas directas mejorarán exponencialmente con mejores modelos.

9.- La obsesión por la latencia refleja los primeros días de Google; métricas P90 y ajustes a nivel de GPU mantienen respuestas rápidas.

10.- Los LLMs de código abierto permiten experimentar con pequeños modelos de razonamiento, desafiando paradigmas de pre-entrenamiento gigante.

11.- El bootstrapping de cadena de pensamiento permite que modelos pequeños se auto-mejoren generando y refinando racionales.

12.- Futuros avances pueden separar el razonamiento de hechos memorizados, permitiendo bucles de inferencia más ligeros pero potentes.

13.- La curiosidad humana sigue sin igual; la IA puede investigar profundamente pero aún depende de personas para hacer preguntas novedosas.

14.- Computación masiva de inferencia—clústeres de millones de GPUs—desbloqueará razonamiento interno de semanas para respuestas que cambien paradigmas.

15.- Controlar quién puede permitirse tal computación se vuelve más crítico que restringir pesos de modelos.

16.- Perplexity Pages convierte sesiones privadas de Q&A en artículos estilo Wikipedia compartibles, escalando conocimiento colectivo.

17.- La indexación mezcla rastreo, renderizado headless, BM25, incrustaciones y señales de actualidad para clasificación matizada.

18.- La generación aumentada por recuperación basa respuestas solo en texto recuperado, rechazando especulación no apoyada.

19.- Las alucinaciones surgen de fragmentos obsoletos, interpretación errónea del modelo o inclusión de documentos irrelevantes.

20.- Seguimiento de latencia de cola y núcleos TensorRT-LLM optimizan rendimiento sin sacrificar experiencia de usuario.

21.- Arquitectura agnóstica de modelos intercambia GPT-4, Claude o Sonar para siempre servir la mejor respuesta disponible.

22.- Los fundadores aconsejan empezar por obsesión genuina, no moda de mercado; la pasión sostiene a los fundadores en la adversidad.

23.- La demo inicial de búsqueda en Twitter mostró consultas relacionales, impresionando inversores y reclutas con posibilidades frescas.

24.- A los usuarios les encantaron los resúmenes de auto-búsqueda; capturas virales impulsaron crecimiento inicial más allá del indexado rudimentario en Twitter.

25.- La UI minimalista equilibra claridad para novatos y atajos para usuarios avanzados, aprendiendo de la interfaz limpia temprana de Google.

26.- Sugerencias de preguntas relacionadas combaten la lucha universal de traducir curiosidad en consultas articuladas.

27.- Feeds de descubrimiento personalizado buscan mostrar ideas diarias sin amplificar drama social o cebos de engagement.

28.- Ajustes de profundidad personalizables permiten a principiantes o expertos adaptar explicaciones, democratizando acceso a temas complejos.

29.- Ventanas de contexto largo prometen búsqueda de archivos personales y memoria, pero arriesgan degradación en seguimiento de instrucciones.

30.- La visión se extiende a entrenadores IA que fomentan el florecimiento humano, resistiendo distopías de vínculos emocionales falsos.

Entrevista porLex Fridman| GPT personalizado y Bóveda de Conocimiento construida porDavid Vivancos 2025