Chile Compra

En el mundo, se han desarrollado, en los últimos cinco años, más de 80 guías para el desarrollo ético de IA. Si bien existe convergencia global en cuanto a cinco principios éticos (transparencia, justicia y equidad, no maleficencia, responsabilidad y privacidad), existe también una “divergencia sustantiva en relación con cómo estos principios son interpretados; por qué son relevantes; a qué dominio pertenecen; y cómo deben implementarse”.

A pesar de la proliferación de estas guías, existen pocos proyectos de ciencia de datos en el sector público que hayan sido diseñados e implementados considerando la equidad, responsabilidad y transparencia. Asimismo, varios países de América Latina y el Caribe, entre ellos Chile, se encuentran aun diseñando sus políticas de IA, lo que refleja lo incipiente del desarrollo de este tipo de herramientas, y de las discusiones éticas que involucran en la región.

Problema que se busca resolver:

Los procesos de licitación pública de sistemas de toma/soporte de decisión no incorporan una gestión ética en las bases de licitación.  El objetivo del proyecto es generar oportunidades de mercado para empresas de tecnología, especialmente startups y pymes, mediante el desarrollo de sistemas éticos de decisión automatizada y la incorporación de estándares éticos en la formulación y adquisición de algoritmos en el sector público y privado de Chile. Una mayor rendición de cuentas en el desarrollo de sistemas de toma de decisión algorítmica en el sector público, no solo contribuirá a que éstos cuenten con legitimidad y confianza en la generación del impacto social que se busca, sino que también incidirá en la incorporación de estas prácticas en el sector privado, que la mayoría de las veces está a cargo de desarrollarlos. 

Poblaciones que se ven afectadas por el problema

Empresas que proveen servicios tecnológicos al Estado, especialmente pymes y startups.

Agencias de Gobierno.

Ciudadanos que reciben servicios del Estado 

Propuesta para solucionar dicho problema usando IA:

El proyecto estará enfocado en el:

1. Testeo de guías prácticas para la formulación y adquisición de SDA responsables y éticos, en el Estado chileno;

2. Diseño e implementación de un modelo que permita la implementación práctica de los estándares existentes para la gestión ética de datos;

3. Desarrollo de capacidades en startups y empresas tecnológicas de menor tamaño para incorporar estándares éticos en su oferta de valor y el incentivo de la adopción proactiva de mecanismos de autorregulación.  

¿Qué consideraciones de seguridad, leyes nacionales o estándares se tienen que tener en cuenta para utilizar cada fuente de información? 

El proyecto se basará en la comprobación empírica de herramientas desarrolladas por la iniciativa fAir LAC, el Foro Económico Mundial y otras entidades, sustentado en la experiencia previa del GobLab y de los socios del proyecto trabajando en incorporar la ética de datos en estos sistemas.