Compras públicas de sistemas de IA

Em todo o mundo, mais de 80 diretrizes para o desenvolvimento ético da IA foram desenvolvidas nos últimos cinco anos. Embora haja convergência global em relação a cinco princípios éticos (transparência, justiça e equidade, não maleficência, responsabilidade e privacidade), há também “divergências substanciais em relação a como esses princípios são interpretados; por que são relevantes; a que domínio pertencem; e como devem ser implementados”. 

Apesar da proliferação dessas diretrizes, há poucos projetos de ciência de dados no setor público que tenham sido projetados e implementados tendo em mente a equidade, a responsabilidade e a transparência. Além disso, vários países da América Latina e do Caribe, incluindo o Chile, ainda estão elaborando suas políticas de IA, o que reflete o desenvolvimento incipiente dessas ferramentas e as discussões éticas que elas envolvem na região.

Problema a ser resolvido

Os processos de licitação pública para sistemas de suporte à decisão ou tomada de decisão não incorporam a gestão ética nos editais de licitação. O objetivo do projeto é gerar oportunidades de mercado para empresas de tecnologia, especialmente startups e PMEs, por meio do desenvolvimento de sistemas éticos automatizados de tomada de decisões e da incorporação de padrões éticos na formulação e na aquisição de algoritmos nos setores público e privado do Chile. Uma maior prestação de contas no desenvolvimento de sistemas de tomada de decisão algorítmica no setor público não só contribuirá para sua legitimidade e confiança na geração do impacto social desejado, mas também terá um impacto na incorporação dessas práticas no setor privado, que na maioria das vezes é responsável pelo seu desenvolvimento.

Populações afetadas pelo problema

i) Empresas que fornecem serviços de tecnologia ao Estado, especialmente PMEs e startups. ii) Agências governamentais. iii) Cidadãos que recebem serviços do Estado.

Proposta para resolver esse problema

O projeto se concentrará em: (1) Teste de diretrizes práticas para a formulação e aquisição de Sistemas Dinâmicos de Aquisição (SDAs) responsáveis e éticos no Estado chileno; (2) Projeto e implementação de um modelo que permita a implementação prática de padrões existentes para o gerenciamento ético de dados; (3) Desenvolvimento de capacidades em startups e empresas de tecnologia de pequeno porte para incorporar padrões éticos em sua proposta de valor e incentivar a adoção proativa de mecanismos de autorregulação.

Quais considerações de segurança, leis nacionais ou normas precisam ser levadas em conta ao usar cada fonte de informação?

O projeto será baseado no teste empírico de ferramentas desenvolvidas pela iniciativa fAir LAC, pelo Fórum Econômico Mundial e outras entidades, e estará apoiado na experiência anterior do GobLab e dos parceiros do projeto que trabalham na incorporação da ética de dados nesses sistemas.