Algorithmic racism
technology as an obstacle to equality economic and digital emancipation, and in contraposition to the fundamental rights of black people
DOI:
https://doi.org/10.24220/2675-9160v5a2024e13058Keywords:
Fundamental rights, Discrimination, Artificial intelligence, Racism, TechnologyAbstract
The present work aims to analyze the technological functioning of the algorithm and how they developed to replicate racial discrimination and perpetuate prejudice towards the black population, historically marginalized and vulnerable groups. To this end, the question is: how can algorithmic racism impact the financial-economic sphere of a black person in relation to that of a white person? The hypothesis is that algorithms are handled/programmed receiving human intervention, therefore, algorithmic nprogramming would be riddled with subjectivity, resulting in algorithmic racism. To evaluate this hypothesis, a hypothetical-deductive methodology is adopted. The aim is, at first, to briefly analyze the historical technological evolution that resulted from the Industrial Revolution; to then verify whether discriminatory algorithms result in impeding the economic and digital emancipation of black people. The constitutional foundations of the Brazilian Democratic Rule of Law will be considered, to discuss whether the State is capable of curbing such discrimination nand promoting ethnic-racial equity.
Downloads
References
Amazonas Atual. Como a tecnologia pode contribuir com a economia. Amazonas Atual, 9 out. 2020. Disponível em: https://amazonasatual.com.br/como-a-tecnologia-pode-contribuir-com-a-economia/. Acesso em: 13 out. 2024.
Almeida, S. L. Racismo estrutural. São Paulo: Pólen, 2019.
Arruda, J. J. A. História Moderna e Contemporânea. São Paulo: Ática, 1986.
Bezerra, A. C.; Costa, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em Revista, v. 18, n. 2, e6043, 2022.d
Brasil. Decreto nº 65.810, de 8 de dezembro de 1969. Promulga a Convenção de Viena sobre Relações Diplomáticas. Diário Oficial da União, Brasília, DF, 9 dez. 1969. Disponível em: https://www.planalto.gov.br/ccivil_03/decreto/1950-1969/d65810.html. Acesso em: 15 out. 2024.
Brasil. Lei nº 12.288, de 20 de julho de 2010. Institui o Estatuto da Igualdade Racial; altera as Leis nos 7.716, de 5 de janeiro de 1989, 9.029, de 13 de abril de 1995, 7.347, de 24 de julho de 1985, e 10.778, de 24 de novembro de 2003. Diário Oficial da união: seção 1, Brasília, DF, p. 1, 27 jul. 2010.
Brasil. Lei n.º 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei n.º 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 13 out. 2024.
Brasil. Supremo Tribunal Federal. Habeas-Corpus 82.424-RS. Publicação de livros: Anti-semitismo. Racismo. Crime imprescritível. Conceituação. Abrangência constitucional. Liberdade de expressão. Limites. Ordem denegada. Relator: Min. Moreira Alves. Julgado em 17 set. de 2003. Publicado em 19 mar. 2004. Disponível em: https://www.jusbrasil.com.br/jurisprudencia/stf/770347. Acesso em: 19 ago. 2024.
Brasil. Supremo Tribunal Federal. ADPF nº 186, Distrito Federal. Relator: Ricardo Lewandowski. Julgada em 25 de abril de 2012. Diário da Justiça Eletrônico, Brasília, DF, 20 out. 2014. Disponível em: https://portal.stf.jus.br/processos/downloadPeca.asp?id=269432069&ext=.pdf. Acesso em: 15 out. 2024.
Canela Junior, O. A efetivação dos direitos fundamentais através do processo coletivo: o âmbito de cognição das políticas públicas pelo Poder Judiciário. 2009. Tese (Doutorado em Direito Processual) – Universidade de São Paulo, São Paulo, 2009. Doi: https://doi.org/10.11606/T.2.2009.tde-03062011-114104
Cano, R. J. O robô racista, sexista e xenófobo da Microsoft acaba silenciado. Projetado para o mercado dos ‘millennials’ nos Estados Unidos, Tay não foi capaz de lidar com piadas e perguntas controvertidas. El Pais, San Francisco, 25 mar. 2016. Tecnologia. Disponível em: https://brasil.elpais.com/brasil/2016/03/24/tecnologia/1458855274_096966.html. Acesso em: 8 mar. 2023.
Carvalho, M. Inteligência artificial pode perpetuar o racismo, diz diretora da DataSphere. Para especialistas, dados usados pela IA contêm estereótipos que podem prejudicar comunidades marginalizadas. Jota, [s. l.], 18 abr. 2023. Disponível em: https://www.jota.info/jotinhas/inteligencia-artificial-pode-perpetuar-o-racismo-diz-diretora-da-datasphere-17042023. Acesso em: 20 abr. 2023.
Castells, M.; Cardoso, G (org.). A sociedade em rede: do conhecimento à açção política. Imprensa Nacional: Casa da Moeda, 2005.
Castro, A. A. M.; Prado, P. P. Algoritmos para reconhecimento de padrões. Revista Ciências Exatas, v. 5, p. 129-145, 2015.
Cavallini, M. Proporção de pretos e pardos entre os pobres chega ao dobro em relação aos brancos, mostra o IBGE. G1, São Paulo, 11 nov. 2022. Economia. Disponível em: https://g1.globo.com/economia/noticia/2022/11/11/proporcao-de-pobres-pretos-e-pardos-chega-ao-dobro-em-relacao-aos-brancos-mostra-o-ibge.ghtml. Acesso em: 16 jul. 2023.
Costa, F. V.; Pinto, A. A. A(in) compatibilidade da execução provisória da pena com a garantia da presunção de inocência na perspectiva do processo constitucional brasileiro. Argumenta Journal Law, n. 38, p. 45-85, 2022.
Duque, A. Inteligência Artificial: os benefícios da IA no dia a dia do usuário de ERP. CryptoID, [s. l.], 14 abr. 2023. Disponível em: https://cryptoid.com.br/inteligencia-artificial/inteligencia-artificial-os-beneficios-da-ia-no-dia-a-dia-do-usuario-de-erp/#:~:text=Com%20a%20IA%2C%20%C3%A9%20poss%C3%ADvel,decis%C3%A3o%20mais%20r%C3%A1pida%20e%20precisa. Acesso em: 18 abr. 2023.
Farah Júnior, M. F. A Terceira Revolução Industrial e o Novo Paradigma Produtivo: Algumas Considerações sobre o Desenvolvimento Industrial Brasileiro nos Anos 90. Revista da FAE, v. 3, n. 2, 2017. Disponível em: https://revistafae.fae.edu/revistafae/article/view/501. Acesso em: 22 maio 2023.
Frazão, A. Discriminação algorítmica. Jota, [s. l.], 18 abr. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-1606202. Acesso em: 1 abr. 2023.
Goldoni, L. R. F. Guerra, revolução industrial e desenvolvimento tecnocientífico. Coleção Meira Mattos: Revista das Ciências Militares, n. 26, 2012.
Hayne, L. A.; Wyse, A. T. Análise da evolução da tecnologia: uma contribuição para o ensino da ciência e tecnologia. Revista Brasileira de Ensino de Ciência e Tecnologia, v. 11, n. 3, 2018. Disponível em: https://periodicos.utfpr.edu.br/rbect/article/view/5947. Acesso em: 25 mar. 2023.
Hesmondhalgh, D. et al. The impact of algorithmically driven recommendation systems on music consumption and production: a literature review. Londres: Department for Digital, Culture, Media & Sport, 2023. Disponível em: https://www.gov.uk/government/publications/research-into-the-impact-of-streaming-services-algorithms-on-music-consumption/the-impact-of-algorithmically-driven-recommendation-systems-on-music-consumption-and-production-a-literature-review. Acesso em: 1 mar. 2023.
Lastres, H. M. M. et al. Globalização e inovação localizada. In: Cassiolato, J. E.; Lastres, H. M. M. (ed.). Globalização e Inovação Localizada: experiências de Sistemas Locais no Mercosul. Brasília: IEL/IBICT, 1999.
Lima, B. D. F. Racismo Algorítmico: o enviesamento tecnológico e o impacto aos direitos fundamentais no Brasil. 2022. Dissertação (Mestrado em Direito) – Universidade Federal de Sergipe, São Cristóvão, 2022.
Longo, W. P. Tecnologia e soberania nacional. São Paulo, Ed. Nobel, 1984.
Magrini, E. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2. ed. Porto Alegre: Arquipélago Editorial, 2019.
Maia, J. M. E. A sociologia latino-americana na Guerra Fria Cultural: Florestan Fernandes, Aldo Solari e o Ilari. História, Ciências, Saúde-Manguinhos, v. 29, n. 4, p. 915-932, 2022. Doi: https://doi.org/10.1590/S0104-59702022000400003
Martino, J. P. Technological Forecasting for Decision Making. 2. ed. New York: McGraw-Hill, 1983.
Moreira, A. J. Pensando como um negro: ensaio de hermenêutica jurídica. São Paulo: Editora Contracorrente, 2019.
Nunes, P. Levantamento revela que 90,5% dos presos por monitoramento facial no brasil são negros. InterceptBrasil, [s. l.], 21 dez. 2019. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasilnegros/. Acesso em: 12 abr. 2023.
Oliveira, F. A. F.; Barroco, S. M. S. Revolução tecnológica e smartphone: considerações sobre a constituição do sujeito contemporâneo. Psicologia em Estudo, v. 28, p. 1-26, 2023. Doi: https://doi.org/10.4025/psicolestud. v28i0.51648.
Oliveira, J. R. F. O direito como meio de controle social ou como instrumento de mudança social? Revista de informação Legislativa, v. 34, n. 136, p. 377-381, 1997. Disponível em: http://www2.senado.leg.br/bdsf/handle/id/324. Acesso em: 23 mar. 2023.
Requião, M.; Costa, D. C. Discriminação algorítmica: ações afirmativas como estratégia de combate. Civilistica. com, v. 11, n. 3, 2022. Disponível em: http://civilistica.com/discriminacaoalgoritmica/. Acesso em: 18 abr. 2023.
Silva, J. C. T. Tecnologia: conceitos e dimensões. In: XXII Encontro Nacional de Engenharia de Produção, 2002, Curitiba. Anais eletrônico [...]. Curitiba, Enegep, 2002. Disponível em: https://abepro.org.br/biblioteca/enegep2002_tr80_0357.pdf. Acesso em: 26 mar. 2023.
Silva, J. C. T. Tecnologia: novas abordagens, conceitos, dimensões e gestão. Revista Produção, v. 13, n. 1, p. 50-63, 2003.
Silva, M. M.; Bittencourt, J. B.; Santos, J. N. “Questão social” no Brasil: racismo estrutural e superexploração do trabalho. Revista Crise Ambiental e Lutas Sociais, v. 26, n. 52, 2023.
Silva, T. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc SP, 2022.
Werneck, J. Racismo institucional e saúde da população negra. Saúde e Sociedade, v. 25, n. 3, p. 535-549, 2016. Doi: https://doi.org/10.1590/S0104-129020162610
Yeshimabeit, M.; Traub, A., 2021. Data capitalism and Algorithmic Racism. Cambridge: Data For Black Lives, c2021. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://datacapitalism.d4bl.org/documents/Demos_Data_Capitalism_Final.pdf. Acesso em: 29 mar. 2023.
