Um projeto de monitoramento do uso de algoritmos de inteligência artificial pelo governo, que visa contribuir para a mais transparência e governança, com a participação da sociedade civil.
Tecnologias de inteligência artificial vêm sendo usadas pelos governos para tomada de decisão em setores importantes como saúde, educação, justiça criminal, habitação e emprego - influenciando decisões que afetam indivíduos e a sociedade como um todo. Seu uso pode ser largamente benéfico para fortalecer processos administrativos, investigatórios, decisórios, e aumentar a eficácia e a eficiência do poder público.
Devido ao seu poder de impactar na vida dos cidadãos e no próprio espaço cívico, é fundamental que o uso de tais ferramentas seja adequadamente transparente para garantir possibilidade de prestação de contas e acompanhamento em seus processos de desenvolvimento, aquisição e implementação, de forma que a sociedade consiga monitorar e corrigir falhas, injustiças e até abusos no uso de algoritmos. Seu uso deve ser exercido com especial atenção aos seus potenciais efeitos nos direitos e liberdades individuais e coletivos.
O projeto Transparência Algorítmica é financiado pelo International Center of Not-for-Profit Law. O projeto conta com parcerias com representantes da academia (Northwestern University), da sociedade civil (Ceweb) e do governo federal (Controladoria-Geral da União e Ministério da Ciência, Tecnologia e Inovações).
Publicações realizadas por este projeto:
Policy paper
Recomendações de governança
Uso de Inteligência Artificial pelo poder público
O documento apresenta as recomendações da Transparência Brasil para o desenvolvimento e uso de tecnologias relacionadas à Inteligência Artificial pelo setor público, elaboradas de forma colaborativa com organizações da sociedade civil, atuantes na promoção de diferentes causas e direitos. O policy paper traz uma análise de impactos negativos a direitos fundamentais para, ao final, oferecer recomendações de governança quanto à aplicação de sistemas de IA no setor público.
Estrutura de avaliação de riscos a direitos e de transparência no uso de algoritmos de inteligência artificial no setor público
O documento apresenta uma proposta para avaliação de riscos no uso de algoritmos de inteligência artificial pelo setor público, numa busca de alinhamento entre promoção de inovação e tecnologia e responsabilidade pública e transparência.
Conheça as ferramentas de IA usada por órgãos governamentais
O catálogo de uso de Inteligência Artificial por órgãos governamentais visa contribuir para a transparência e controle social dos casos de uso de tecnologias de IA no setor público.
As informações foram coletadas por meio de pedidos de acesso à informação, busca nos sites oficiais e por um questionário elaborado em parceria com a Controladoria-Geral da União (CGU), o Ministério da Ciência, Tecnologia e Inovação (MCTI) e o Centro de Estudos sobre Tecnologias Web (Ceweb.br). O questionário foi enviado em setembro de 2020 a órgãos da administração pública direta e indireta do Executivo federal.
O catálogo foi elaborado pelo Centro de Estudos sobre Tecnologias Web (Ceweb.br) do Núcleo de Informação e Coordenação do Ponto BR (NIC.br).
Monitore novas ferramentas de IA usadas pelo setor público por meio de algoritmo de busca automática
No nosso repositório público do GitHub é possível ter acesso ao código construído pela Transparência Brasil, com apoio da Northwestern University, que visa contribuir para que a sociedade civil possa monitorar novos casos de uso de tecnologias de IA que venham a ter menção em sites governamentais.