○ planned · proyecto
Otorga nivel a: Large Language Models · Explainable AI · Reasoning
Usa: Large Language Models · Embeddings · Explainable AI · Discrete Mathematics · Transformer · Chain-of-Thought · Reasoning · Mathematical Logic
Primera respuesta a «¿puede la GenIA razonar?»: no, pero con «pesimismo en teoría, optimismo en práctica» explora casos donde sí parece razonar. Propone la lógica matemática (proposicional y de primer orden, Gödel) como marco para evaluar si los vectores internos de los LLM razonan o solo replican estadística.
Hallazgos clave
- AlphaFold descubrió que la recuperación 3D de proteínas requiere un espacio métrico con desigualdad triangular, algo nuevo para los biólogos; los modelos resuelven distinto a un humano.
- Los modelos de ajedrez/Go usan solo el último estado (estilo Markov), no la historia completa; razonan «a su manera» sin memoria del historial de jugadas.
- Word2Vec respeta la negación vectorialmente (opuestos correlacionan negativo por coseno), pero los LLM rara vez distinguen «no es muy» de «sí es muy» y fallan la doble negación.
- Anthropic («On the Biology of LLMs») encontró estructura de árbol real en los vectores en 1 de 6 ejemplos, con coordenadas publicadas; no es suficiente ni reproducible aún.
- El teorema de completitud de Gödel + Curry-Howard + el cálculo Do de Pearl ofrecen un marco para prohibir alucinaciones en preguntas verdaderamente ciertas.
- Nadie sabe por qué los LLM funcionan tan bien («el misterio más grande de la ciencia de la computación»); physics-informed solo modifica la pérdida, no la estructura lógica.
Módulos
- La pregunta provocadora — ¿Puede razonar la GenIA? Primera respuesta: no.
- Ejemplos difíciles de negar — ajedrez/Go, AlphaFold (Nobel 2024), PageRank, IMO (Gemini/OpenAI).
- Interpretabilidad y modelos legibles — ELIZA, chain/tree of thoughts.
- Casos positivos internos — analogías vectoriales, negación correlacionada, árbol en vectores de Anthropic.
- Lógica matemática como marco — proposicional, primer orden, Gödel, Curry-Howard, cálculo Do.
- Lo que falla y perspectivas — negaciones no respetadas, P vs NP, límites de physics-informed.
Fuente: https://www.youtube.com/watch?v=tWsfoOgJkdU · Transcript local: data/cursos/datapub-genia-razonar/genia-razonar.srt
Enlaces
Otorga nivel a: Large Language Models · Explainable AI · Reasoning Usa: Large Language Models · Embeddings · Explainable AI · Discrete Mathematics · Transformer · Chain-of-Thought · Reasoning · Mathematical Logic