Sorry, you need to enable JavaScript to visit this website.

Piloto

Violencia de género

México. Jalisco
Violencia de género

Ante la necesidad de digitalización para transitar a la construcción de un sistema de atención a víctimas que esté homologado entre las diversas áreas de gobierno, se detectó con la Secretaría de Igualdad Sustantiva entre Mujeres y Hombres (SISEMH) el área de oportunidad de mejorar los puntos de primer acercamiento con mujeres víctimas de violencias mediante el almacenamiento digital de sus denuncias. Ya que esto permite, por un lado, escalar los relatos entre las áreas sin la necesidad de que las víctimas cuenten en reiteradas ocasiones los hechos sucedidos, junto con agilizar el posible levantamiento de una denuncia al acortar las brechas burocráticas.

Problema que se busca resolver

Las mujeres que buscan atención directa se ven obligadas a repetir las agresiones vividas en reiteradas ocasiones al ser derivadas a diferentes órdenes de gobierno e instituciones de atención según la violencia experimentada, generando una sensación de cansancio, revictimización y mala percepción en atención y confianza a las instituciones democráticas.

Las personas servidoras públicas recaban la información a mano y la transcriben en computadora, lo cual implica una pérdida importante de tiempo y una ventana a mayores errores humanos como la interpretación, parafraseo u omisión de información importante para la víctima.

  • El personal de la Unidad de Atención posee una alta carga de trabajo, ya que es el primer punto de atención a víctimas y una de las tareas que más demanda tiempo es la transcripción fidedigna de los relatos, además del llenado de los formularios.
  • El detalle de los casos se guarda en su mayor parte en formato Excel y se almacena en Google Drive.
  • El seguimiento en la atención de los casos depende de la capacidad de los equipos que brindan la asesoría de programar recordatorios para seguimientos periódicos; dichos seguimientos pueden verse retrasados tanto por la carga de trabajo como por un olvido en la programación de dichos recordatorios.

Poblaciones que se ven afectadas por el problema

Mujeres víctimas de violencias del estado de Jalisco que acuden a la Unidad Metropolitana de Atención Integral a Mujeres y Niñez (UREA).

Servidores y servidoras públicas de atención de primer contacto, psicólogas, sistematizadoras, tomadoras de decisiones y diseñadores de políticas públicas.

Respuesta actual a este problema, considerando a las instituciones relacionadas
  • Las víctimas acuden a la SISEMH/DAMVV de manera física buscando asesoría, contención y orientación para la resolución de sus casos. Se asigna una trabajadora social que las entrevistara y realizará de manera manual una Cédula de Registro Único (CRU).
  • Toma sus datos, testimonio y por medio de la metodología Danger assessment (20 preguntas) analiza el nivel de riesgo y todos los datos son almacena en nube de Drive.
  • En caso de la víctima ser redirigida a otra instancia, deberá relatar nuevamente el delito. No hay comunicación entre instancias.

Propuesta para solucionar dicho problema usando IA

Implementar un programa modelo “speech to text” para la automatización y digitalización del expediente y reporte de las mujeres (adultas) víctimas atendidas en las Unidades de la Secretaría de Igualdad Sustantiva entre Mujeres y Hombres en el Estado de Jalisco.

La solución proponer introducir una grabadora que registra el relato de mujer víctima de violencia de género y utilizar modelos de IA que convierte audio a texto almacenando directamente en un medio digital -por ejemplo un word- el relato contado directamente por la víctima y tal cuál ha sido narrado.

¿Qué consideraciones de seguridad, leyes nacionales o estándares se tienen que tener en cuenta para utilizar cada fuente de información?

Se revisaron todas las consideraciones relacionadas al almacenaje y uso de datos sensibles (el relato de las víctimas), ya que se identificó que el sistema que se usa actualmente para almacenar las bases de datos es muy vulnerable. Por ende, es necesario determinar quién va a custodiar los datos; así como generar una legislación específica para protección de datos personales de las víctimas.

Por otro lado, también es necesario obtener de manera explícita el consentimiento de las víctimas para tratar sus datos.

Avances/resultados a marzo 2022

Con el apoyo del Tec de Monterrey se realizó un diagnóstico de la situación actual en el proceso de atención a mujeres víctima de violencia en Jalisco, en la Secretaría de la Igualdad Sustantiva entre Mujeres y Hombres de Jalisco, para analizar de qué manera la inteligencia artificial podría apoyar a la institución en sus procesos de atención.

  • Se realizó el taller de identificación del problema y prioridades realizado con la Secretaría de la Igualdad Sustantiva entre Mujeres y Hombres de Jalisco.
  • Se plantearon 5 propuestas de solución para validación de la Coordinación de Innovación Gubernamental y la Secretaría de Igualdad de Gobierno de Jalisco. Y se elegió una como la más conveniente para resolver el problema identificado.
  • Se realizó el taller de factibilidad y diseno con la participación de la Secretaría y el equipo técnico del Tec de Monterrey. Se definió el alcance y viabilidad de la solución de IA, así como la identificación de los datos necesarios.
  • Actualmente se adelanta la firma de los convenios para compartir los datos entre la Secretaría y el Tec de Monterrey.

Metas para 2022-II
  • Finalizar la implementación del piloto y la documentación para Mayo de 2023.
  • Cerrar el diseño de la solución identificando necesidades iniciales como acceso a datos y temas legales de convenios interinstitucionales
  • Iniciar desarrollo en agosto de 2022

Principales retos en la implementación

Que el vocabulario empleado en los relatos no sea entendido por la máquina (expresiones locales, modismos, slang); aunado a ello, no se cuenta actualmente con la infraestructura, datos etiquetados de entrenamiento y datos prueba, y esos problemas pueden llevar mucho tiempo resolver.

Se detectó que el “modelo de resumen de los relatos” va a necesitar un entrenamiento intensivo, el equipo de la Secretaría señaló que por el tiempo, datos, infraestructura y recursos podría ser dificil implementar este modelo. Igualmente, tampoco es claro cómo evaluar si los resúmenes están completos y como ayudaría ese resumen en el proceso.

Principales retos de la IA identificados:

Similares a los retos en la implementación, relacionadas al uso del lenguaje.

Hub

Jalisco

Sector

Género

Ubicación

Jalisco, México

Entidad Ejecutora

Gobierno Jalisco - Tec de Monterrey

Estado

Diseño

Contacto

fairlac@iadb.org

Te puede interesar
Publicaciones

Colombia lanzó la Misión de Expertos en IA para evaluar las potencialidades de la IA y dar recomendaciones concretas en el corto, mediano y largo plazo.

Publicaciones

Promesas y desafíos

Publicaciones

Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe