volver al observatorio
Modelo probabilístico de vulneración de derechos de niñas, niños y adolescentes, Colombia
Descripción del servicio
El ICBF desarrolló dos modelos de probabilidad de vulneración de derechos fundamentados en el uso de analítica de datos y herramientas de aprendizaje de máquinas (machine learning) para la estimación de la probabilidad de que una niña, niño o adolescente pueda ser víctima de violencia física y psicológica o de violencia sexual en Colombia.
Problemática que resuelve
Existe consenso desde instancias internacionales (UNICEF, OPS, OMS, UNODC) y nacionales (“Alianza Nacional contra las violencias hacia las niñas, niños y adolescentes”) frente a la necesidad de adoptar medidas para prevenir y resolver las situaciones de violencia y vulneración de derechos contra las niñas, niños y adolescentes. Sin embargo, la respuesta institucional a la violencia suele ser predominantemente reactiva debido a las limitaciones en la información y herramientas disponibles para tomar decisiones respecto a la distribución de los limitados recursos para la prevención (Administrative Data Research Facilities Network, 2019).
Tipo de aplicación de IA utilizada
Detección de eventos (alertas tempranas y anomalías), Predicción
Principales resultados a junio 30 de 2021
De acuerdo con las predicciones de los modelos, cerca de un 19% de las niñas, niños y adolescentes del país presentan riesgo alto de violencia física, psicológica o sexual.
Tres principales cuellos de botella que enfrentó durante la implementación
Acceso a capacidad computacional: que permitiera aplicar cross-validation, búsqueda de hiperparámetros y otras metodologías con mayor facilidad.
Lecciones aprendidas
- El análisis conceptual y temático de las problemáticas asociadas al diseño de un caso de uso de IA es, en todo caso, mucho más relevante que la aplicación primaria de metodologías de machine learning. Es decir, no se puede desarrollar un caso de uso con impacto social, simplemente poniendo a rodar un algoritmo sin detenerse a pensar primero en las variables teóricas y en las consecuencias éticas de su aplicación.
- Los sesgos de la aplicación de algoritmos de machine learning en problemáticas sociales son amplios y debe dedicarse una gran parte de esfuerzo y dedicación en su detección y mitigación.
- El uso final de los resultados (el cómo y quién los usará) es muy importante (al igual que el entrenamiento del algoritmo), ya que de esto dependen los tipos de visualizaciones, agregaciones o desagregaciones de los resultados, amplitud de rangos de la predicción, entre otras cosas que configuran las funcionalidades.
País de origen
Alcance geográfico de las operaciones
Colombia, en los 1.100 municipios (98% del total del país) en los que tiene cobertura el Sistema de Identificación de Potenciales Beneficiarios de Programas Sociales (Sisbén IV)
Website
https://www.icbf.gov.co/Tipo de ejecutor
GobiernoSector/industria
Objetivo(s) de Desarrollo Sostenible a los cuales su solución de IA aporta
5 (igualdad de género)
16 (paz, justicia e instituciones sólidas)
La aplicación de IA fue desarrollada internamente o por un tercero
Internamente
Nombre de la entidad implementadora
Instituto Colombiano de Bienestar Familiar (ICBF), Colombia
Actores involucrados
La fase inicial de desarrollo fue adelantada por el Instituto Colombiano de Bienestar Familiar con el recurso humano propio de su Grupo de Analítica Institucional. Posteriormente, el ICBF recurrió a la consulta y comparación de experiencias con expertos de Unicef (equipo de Innovación, sede Nueva York) y de Nueva Zelanda (Centre for Social Data Analytics de Nueva Zelanda). Estas consultas dieron paso a revisiones metodológicas para fortalecer la interpretación de los modelos y la ética en la obtención y el uso de los resultados. Del mismo modo, el Departamento Nacional de Planeación (DNP) ha participado en la revisión y consolidación del concepto metodológico implementado en los modelos desarrollados. Por otro lado, la Cooperación Canadiense a través de FUPAD ha destinado recursos para la contratación de consultores que mejorarán la implementación del modelo. Los resultados de los modelos serán implementados en el marco de la Alianza Nacional contra las Violencias.
Porcentaje del equipo desarrollador que son mujeres
33%
Año en que empezaron a usar la IA
El modelo de probabilidad de vulneración de derechos del ICBF empezó a utilizarse en el año 2021.Te puede interesar
El objetivo de este documento es ayudar a los responsables de formular proyectos con IA durante su conceptualización y diseño, así como a liderar posteriormente su ejecución y monitoreo.
Este documento forma parte de la serie “Camino hacia la inclusión educativa: 4 pasos para la construcción de sistemas de protección de trayectorias”.
Hay estudios que muestran que, internacionalmente, en la fuerza laboral las mujeres obtienen menores remuneraciones, ocupan menos posiciones sénior y participan menos de los campos de ciencia, tecnología, ingeniería y matemáticas (STEM).