Racial discrimination in the facial recognition system in Brazil and its impacts on criminal policy
DOI:
https://doi.org/10.24220/2675-9160v5a2024e13770Keywords:
Racial discrimination, Facial recognition error, Systemic segregation, Facial recognition systems, Ideological biasAbstract
The present research aims to study the perpetuation of racial discrimination in the context of criminal policies, which already reflect systemic selectivity that marks human status as synonymous with whiteness. Thus, the objective is to analyze whether technology is neutral or if the programming of its devices amplifies and validates the racialized and stereotyped process of criminalization and penal accountability. It was observed that there are still unaddressed legislative gaps, and data control in the hands of a creating entity can lead to ideological bias, a fact that intensifies social segregation.
Downloads
References
Brasil. Projeto de Lei nº 1515/2022. Lei de Proteção de Dados Pessoais para fins exclusivos de segurança do Estado, de defesa nacional, de segurança pública, e de investigação e repressão de infrações penais. Iniciativa: Coronel Armando. Brasília: Câmara dos Deputados, 2022. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2326300&fichaAmigavel=nao. Acesso em: 23 out. 2024.
Broussard, M. Artificial unintelligence: How computers misunderstand the world. [s. l.]: The Mit Press, 2018. Disponível em: https://direct.mit.edu/books/book/3671/Artificial-UnintelligenceHow-Computers. Acesso em: 24 out. 2024.
Carneiro, S. A construção do outro como não-ser como fundamento do ser. 2005. 339 f. Tese (Doutorado em Educação) – Universidade de São Paulo, São Paulo, 2005. Disponível em: https://negrasoulblog.files.wordpress.com/2016/04/a-construc3a7c3a3o-do-outro-como-nc3a3o-ser-como-fundamento-do-ser-suelicarneiro-tese1.pdf. Acesso em: 15 jan. 2024.
Coelho, H.; Nascimento, R.; Alves. R. Mulher presa após reconhecimento facial é solta: mandado de prisão já tinha sido cumprido. G1, Rio de Janeiro, 4 jan. 2024. Disponível em: https://g1.globo.com/rj/rio-de-janeiro/noticia/2024/01/04/mulher-presa-apos-reconhecimento-facial-e-solta-mandado-de-prisao-ja-tinha-sido-cumprido.ghtml. Acesso em: 3 jan. 2024.
Diester, J. Reconhecimento facial: jovem negro prova inocência pela terceira vez após ser acusado por erro. Brasil de Fato RJ, Rio de Janeiro, 14 abr. 2023. Disponível em: https://www.brasildefatorj.com.br/2023/04/12/reconhecimento-facial-jovem-negro-prova-inocencia-pela-terceira-vez-apos-ser-acusado-por-erro. Acesso em: 2 fev. 2024.
Kelleher, J. D.; Tierney, B. Data Science. Cambridge: The MIT Press, 2018.
Nunes, P. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. In: Centro de Estudos de Segurança e Cidadania. Retratos da violência cinco meses de monitoramento, análises e descobertas. Rio de Janeiro: CESEC, 2019. p. 67-71, Disponível em: http://observatorioseguranca.com.br/wordpress/wp-content/uploads/2019/11/1relatoriorede.pdf. Acesso em: 15 jan. 2024.
Oliveira, L. V. et al. Aspectos ético-jurídicos e tecnológicos do emprego de reconhecimento facial na segurança pública no Brasil. Revista Tecnologia e Sociedade, v. 18, n. 50, p. 114-135, 2022. Disponível em: https://periodicos.utfpr.edu.br/rts/article/view/12968. Acesso em: 23 jan. 2024.
Rouvroy, A.; Berns, T. Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação? Tradução de P. H. Andrade. Revista Eco Pós, v. 18, n. 2, p. 36-56, 2015.
