| description |
|---|
Autor: Carla Vieira |
Tema: Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância no Brasil
Ao mesmo tempo em que os algoritmos de Inteligência Artificial trazem possibilidades magníficas de otimização do trabalho e outras transformações positivas, também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção.
Parece haver uma expectativa geral de que o desenvolvimento de Inteligência Artificial irá trazer soluções para vários dos problemas da humanidade. O problema é que no geral o desenvolvimento dessas tecnologias não é acompanhado de uma reflexão sobre as dinâmicas que estruturam a nossa sociedade: como o racismo e o colonialismo.
Nesse ponto, entram as teorias decoloniais que utilizam uma visão histórica para explicar os padrões de poder que moldam os aspectos políticos, econômicos e sociais da nossa sociedade. Ao incorporar uma abordagem crítica decolonial no desenvolvimento de IA, podemos pesquisar/desenvolver tecnologias estabelecendo princípios éticos e centralizando as soluções nas comunidades mais impactadas e pouco representadas nesses sistemas.
Precisamos ampliar o nosso conhecimento e interesse sobre o funcionamento dessas novas tecnologias, assim como criarmos mecanismos e regras para seu uso, de modo a ter controle sobre o aumento de seu poder de influência sobre os usuários e não dependermos de caixas pretas sobre as quais não temos nenhum controle.
Notícias sobre reconhecimento facial no Brasil para segurança pública
- 99 vai oferecer câmera que grava imagens dentro e fora dos carros a motoristas
- SDS vai usar câmeras que reconhecem criminosos e carros roubados em Pernambuco
- Rede lança relatório com dados inéditos sobre Rio de Janeiro, Bahia, Ceará, Pernambuco e São Paulo
- Sistema de reconhecimento facial será implantado em Sergipe
- Reconhecimento facial: tecnologia ganha relevância na pandemia e passa a ser comum
- O que são os conceitos de colonização e decolonização?
- Como esses conceitos podem ser aplicados na análise do uso de tecnologias como Reconhecimento Facial na segurança pública?
Incentivar a inovação e pesquisa de IA através de uma visão decolonial e sociotécnica que considera o impacto das tecnologias na sociedade.
- Conceitualizar colonização e decolonização do IA: Identificar um referencial teórico a partir do qual você deseja estudar esta questão (decolonização?)
- Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo.
- Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
A principal meta deste projeto da disciplina é entender a importância de uma abordagem científica crítica, e em particular do pensamento decolonial, na compreensão e modelagem de algoritmos de Inteligência Artificial. Acredita-se que, a partir dela, será possível apoiar estudos futuros que buscam aplicar esse pensamento no desenvolvimento de tecnologias e pesquisas na área de computação.
Espero que as teorias decoloniais expandam a capacidade de pesquisadoras de IA, incluindo eu mesma, de fazer pesquisas críticas e questões de design de tecnologia, imaginar realidades alternativas, questionar quem está desenvolvendo IA e onde, e examinar o papéis de cultura e poder embutidos em sistemas de IA.
Em termos de publicações científicas, é esperado que os resultados desse projeto sejam inseridos em veículos de disseminação na área de Inteligência Artificial, Aprendizado de Máquina e Sistemas de Informação.
- Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8
- Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: https://arxiv.org/abs/2009.14258
- Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011
- Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492
- Reconhecimento Facial e Segurança Pública: Os Perigos do uso da Tecnologia no Sistema Penal Seletivo Brasileiro (2019)
- Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina (2019)
- Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade (2020)
- Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital (2020)
- Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos (2020)