○ planned · proyecto
Otorga nivel a: Transformer · Dimensionality Reduction
Usa: ELT · Word Embeddings · Transformer · Attention · Embeddings · Dimensionality Reduction · Reproducibility
Sesión doble. Eduardo Blancas presenta Ploomber, herramienta open-source para escribir pipelines reproducibles de Data Science con tres convenciones. Alfonso explica cómo la maldición de la dimensión se vuelve bendición y da origen al Informer, un Transformer lineal que reduce el costo de atención vía Johnson-Lindenstrauss.
Hallazgos clave
- Ploomber define un pipeline con 3 convenciones: cada tarea es un script/función, declara dependencias con ‘upstream’ y salidas con ‘product’.
- Ejecución incremental (como Make): solo corre la tarea modificada y sus dependientes, ahorrando horas en pipelines largos.
- Los notebooks generados son artefactos, no código fuente; el código vive en scripts para versionar con Git.
- En NLP, la clasificación de texto (sentimiento, sesgo de género) se resuelve con técnicas clásicas; lo difícil es summarization y traducción (Transformer).
- El costo de atención O(n²) del Transformer se reduce a O(n) en el Informer usando Johnson-Lindenstrauss (dispersa preservando distancias).
Módulos
- Ploomber: motivación — notebooks sin estructura.
- Ploomber: pipelines por convenciones (upstream/product).
- Ploomber: ejecución incremental y export a producción.
- NLP: aplicaciones y vectorización — word embeddings.
- Transformer y la maldición/bendición de la dimensión.
- Informer y Johnson-Lindenstrauss.
Fuente: https://www.youtube.com/watch?v=f_J7BN9eQAs · Transcript local: data/cursos/datapub-ploomber-dimension-nlp/ploomber-dimension-nlp.srt
Enlaces
Otorga nivel a: Transformer · Dimensionality Reduction Usa: ELT · Word Embeddings · Transformer · Attention · Embeddings · Dimensionality Reduction · Reproducibility