○ planned · proyecto

Otorga nivel a: Model Deployment · MLOps

Usa: Model Deployment · MLOps · PyTorch · Data Product · Model Cards

Charla sobre Sinapsis, una plataforma open source de IA “modular, universal y democratizada” que ataca la barrera de la implementación (donde ~80% de los proyectos de IA fallan en el paso de investigación a producción). La tesis central: si todo se vuelve un “template” reutilizable de una sola responsabilidad dentro de un contenedor de datos con tipado seguro, se puede ensamblar, cambiar y reusar modelos de cualquier modalidad en minutos, no meses.

Hallazgos clave

  • ~80% de los proyectos de IA fallan en el paso de research & development a implementación, por tres barreras: confusión sobre qué es “IA”, falta de conocimiento técnico/teórico y ausencia de un flujo estándar que haga que un cambio simple (“ahora integra imágenes”) no rompa todo.
  • Arquitectura en tres componentes: el contenedor de datos (unidad universal de transporte, con paquetes tipados validados con Pydantic), el template (nodo que hace una única tarea y transforma un tipo de dato, con método execute) y el agente (grafo con orden topológico que define el flujo, con modos de ejecución como forever-loop o single).
  • Los “templates dinámicos” exponen ~400 templates en tres archivos de Python reutilizando las funciones load/transform de librerías existentes (data loaders de LangChain, Wikipedia, YouTube, Albumentations), sin reescribir 150 clases a mano.
  • Convertidores de modelos permiten pasar de Keras→ONNX→TensorRT, reduciendo el tiempo de inferencia (RetinaFace pasó de ~4 a ~50 frames por segundo, ~1000% de mejora).
  • El asistente interno se entrenó con ~1700 + 6200 ejemplos generados a partir del propio código/documentación (OpenAI 4.1 + unsloth + Llama, formato alpaca); la regla: no reescribir código ajeno, sino envolverlo/adaptarlo (decoradores convierten funciones existentes en templates).

Módulos

  1. El problema de la implementación de IA — Identificar por qué falla el paso de R&D a producción y qué significa una solución modular y explícita.
  2. El contenedor de datos y el tipado seguro — Diseñar una unidad de transporte universal con paquetes de imagen, audio, texto, series de tiempo y binarios validados con Pydantic.
  3. Templates de una sola responsabilidad — Crear nodos reutilizables con un método execute que transforman un solo tipo de dato, y que operan de forma independiente.
  4. Agentes y flujo explícito de datos — Componer templates en un grafo con orden topológico, entrada definida y modos de ejecución (forever-loop, single, condicional).
  5. Templates dinámicos y convertidores — Reusar load/transform de librerías existentes y convertir modelos entre frameworks (Keras, ONNX, TensorRT) para acelerar inferencia.
  6. Entrenar un asistente sobre tu propio código — Generar un dataset de instrucción desde documentación y repos, con fine-tuning de un LLM (formato alpaca) y un CLI de soporte.

Fuente: https://www.youtube.com/watch?v=Cv_JSPrhLiM · Transcript local: data/cursos/datapub-sinapsis-implementacion-ia/sinapsis-implementacion-ia.srt

Enlaces

Otorga nivel a: Model Deployment · MLOps Usa: Model Deployment · MLOps · PyTorch · Data Product · Model Cards