○ planned · proyecto
Otorga nivel a: Fairness in ML · Bias Mitigation · Algorithmic Auditing
Usa: Fairness in ML · Bias Mitigation · Algorithmic Auditing · Model Evaluation · Image Segmentation · Image Classification · Multimodal Learning
A través de cinco proyectos reales de ML aplicado a política pública, cómo llevar la IA al sector público enfrentando datos arcaicos y dispersos, la dependencia del contexto en la evaluación y la necesidad de tratar la equidad como objetivo explícito del sistema y no del modelo. La tesis: el ML socialmente útil exige diligencia de datos, pensar el contexto y la intervención antes que el algoritmo, y abordar la fairness como propiedad sistémica con poco costo de precisión.
Hallazgos clave
- En Syracuse (rotura de tuberías), el 1% de mayor riesgo concentró ~2/3 de las roturas del año siguiente: digitalizar datos (notebooks de ingeniería de hace 100 años) es lo que hace funcionar el modelo.
- Los datos nunca viven en un solo lugar (notebooks, Excels en laptops, bases de proveedores); la información más predictiva suele ser la que exige tiempo y esfuerzo encontrar.
- En Wisconsin, el mismo modelo con 35-40% de acierto fue juzgado «muy útil» por el grupo ambientalista y «poco útil» por el regulador: no existe métrica universal (AUC/F1), el contexto y el costo de FP/FN definen qué evaluar.
- En Baltimore, la precisión en el top 1000 subió de ~50% (heurística de píxeles oscuros) a ~80% (datos estructurados) y >90% (CNN): combinar modalidades de datos, no solo visión.
- En Los Ángeles, ajustar umbrales por grupo (post-processing) alineó la equidad racial/étnica con caída de accuracy casi nula: la equidad es alcanzable si se vuelve objetivo explícito.
- En Chicago (plomo infantil), un call center monolingüe anuló la equidad lograda a nivel modelo al excluir a no angloparlantes: la fairness es propiedad del sistema completo, no solo del modelo.
Módulos
- Desafíos del sector público — sistemas legacy (COBOL), 80% de horas IT en mantenimiento, fuga de talento.
- Syracuse: rotura de tuberías — diligencia de datos: digitalizar notebooks centenarios antes que cualquier algoritmo.
- Wisconsin: granjas industriales y visión satelital — evaluación dependiente del contexto y del stakeholder.
- Baltimore: viviendas abandonadas — ganancias de combinar datos multimodales (visión + administrativos + CNN).
- Los Ángeles: fiscalía y equidad — mapear 30 definiciones de fairness a métricas y ajustar umbrales por grupo.
- Chicago: plomo infantil — la equidad como propiedad de sistema (call center monolingüe como fallo downstream).
Fuente: 2025-04-25 · Transcript local: data/cursos/datapub-responsible-ai/responsible-ai.srt
Enlaces
Otorga nivel a: Fairness in ML · Bias Mitigation · Algorithmic Auditing Usa: Fairness in ML · Bias Mitigation · Algorithmic Auditing · Model Evaluation · Image Segmentation · Image Classification · Multimodal Learning