○ planned · proyecto
Otorga nivel a: Large Language Models · Retrieval-Augmented Generation · AI Agents
Usa: Large Language Models · Retrieval-Augmented Generation · AI Agents · Multi-Agent Systems · Prompt Engineering · Agentic AI
Adolfo De Unanue da una charla especulativa (sin código) sobre cómo concebir las aplicaciones con LLMs, conectando teoría de control, cibernética y sistemas complejos. Su tesis central es que tratar al LLM como sustituto de software o de machine learning tradicional es un error: su verdadero valor es preservar variedad, y hay que diseñarlo como parte de un sistema viable (inspirado en Stafford Beer), no como un chat bot de bucle abierto.
Hallazgos clave
- El ML tradicional es un reductor de variedad y de varianza: solo responde una pregunta a la vez y convierte cualquier cantidad de sensores en una sola salida; por eso es frágil aunque bien diseñado.
- El LLM preserva la variedad (con ~un billón de parámetros tiene flexibilidad inédita), así que no debe sustituirse por un
ifo por ML; su característica clave es responder con riqueza a señales complejas. - La mayoría de las aplicaciones actuales (chatbots tipo “pregunta a la base de datos”) están en bucle abierto y no siguen al sistema real: gastan la energía de ingeniería en “contener” al modelo para que no divague.
- Inspirado en la Ley de Ashby (variedad requerida) y el sistema viable de Stafford Beer, propone mapear los 5 subsistemas de una organización sobre los LLMs: sistema 1 (herramientas/ML), 2 (coordinación/agentes), 3 (interfaz lingüística), 4 (planificación bajo incertidumbre profunda) y 5 (metas).
- Abandonar la linearización es el mensaje final: llevamos décadas metiendo rigidez/fricción a los sistemas para controlarlos, y el LLM da por primera vez la variedad suficiente para explorar diseños que se autorreparen y se adapten.
Módulos
- Las tres posturas sobre los LLMs y sus errores — Apocalípticos, inocuos y “caja mágica”: por qué clavarse en la discusión AGI desaprovecha el presente.
- Control y linearización en el software — Retroalimentación, sistemas de control, por qué hacemos los sistemas rígidos y el diagnóstico de Gary Sussman sobre el ADN vs el software.
- Sistemas complejos y sistemas disipativos — “How complex systems fail”, Lyapunov, Prigogine y los sistemas que se autoorganizan y se autorreparan.
- Cibernética y la Ley de Ashby — Variedad requerida, atenuadores y amplificadores de variedad, y la metáfora del timonel (kubernetes).
- ML tradicional como reductor de variedad vs el LLM como preservador — Productos de datos, RAG/fine tuning y por qué el LLM no sustituye ni a ML ni al software.
- El sistema viable aplicado a LLMs — Los 5 subsistemas de Stafford Beer mapeados a agentes, herramientas, ML, planificación e incertidumbre profunda.
Fuente: https://www.youtube.com/watch?v=BLUP-SjA6Wc · Transcript local: data/cursos/datapub-diseno-apps-llm/diseno-apps-llm.srt
Enlaces
Otorga nivel a: Large Language Models · Retrieval-Augmented Generation · AI Agents Usa: Large Language Models · Retrieval-Augmented Generation · AI Agents · Multi-Agent Systems · Prompt Engineering · Agentic AI