○ planned · proyecto
Otorga nivel a: Model Evaluation · Explainable AI · Multi-Agent Systems
Usa: Model Evaluation · Explainable AI · Multi-Agent Systems · AI Agents · Embeddings · Human-in-the-Loop · Calibration · Entity Matching
La diferencia entre un mal y un buen producto de AI no es la tecnología sino el problema que resuelve. Para construir productos de AI confiables y escalables hay que abandonar el impulso de «evaluar todo» y, en su lugar, detectar errores catastróficos temprano, dar explicabilidad auditable y dejar que el usuario siga el razonamiento por sí mismo. La confianza bien calibrada es lo que permite escalar.
Hallazgos clave
- No evalúes todo antes de lanzar: los usuarios no quieren una pared de métricas, quieren seguir cada paso del sistema y construir confianza; eso te hace mover más rápido.
- Detecta primero los errores catastróficos con expertos de dominio (PM de supply chain, climatólogos): son los modos de falla que harían que un usuario «nunca volviera a usar esto».
- Prefiere validación determinista sobre AI-chequeando-AI: código normal y ecuaciones de conservación (balance de masa: entran 10 kg, no pueden salir 12 kg) para verificar outputs.
- La explicabilidad debe ir en lenguaje del dominio con «discusión progresiva»: vista de alto nivel → nodo → benchmark contra productos reales → cadena de custodia hasta la fuente/cita.
- El sistema juez-mapeador está calibrado: a mayor confianza, menor tasa de error; revisando solo el 30% de los mapeos se capturan más del 80% de los errores.
- Un match bajo puede ser input vago (ej. «una parte de oro»): al seguir la explicabilidad, las empresas terminan mejorando la calidad de sus propios datos.
Módulos
- Contexto — 50 Gt CO2e/año (84% de empresas); contabilidad de carbono a nivel producto con 80-90% de emisiones en la cadena upstream.
- Espacio del problema — hallar hotspots y medir con granularidad accionable.
- Dos sistemas de AI — AutoMapping (entity-matching sobre 2.000+ categorías) y agente multi-agente que construye un gemelo digital de la cadena.
- Evaluación para la confianza — errores catastróficos temprano + validación determinista (conservación de material) antes que AI-chequea-AI.
- Explicabilidad y UX de discusión progresiva — del alto nivel a la fuente/cita original.
- Calibración y escala — a mayor confianza menor error; revisar 30% captura >80% de errores.
Fuente: 2026-01-30 · Transcript local: data/cursos/datapub-trustworthy-ai/trustworthy-ai.srt
Enlaces
Otorga nivel a: Model Evaluation · Explainable AI · Multi-Agent Systems Usa: Model Evaluation · Explainable AI · Multi-Agent Systems · AI Agents · Embeddings · Human-in-the-Loop · Calibration · Entity Matching