Racismo algorítmico
tecnologia como obstáculo da emancipação econômica e digital igualitária, e em contraposição aos direitos fundamentais das pessoas negras
DOI:
https://doi.org/10.24220/2675-9160v5a2024e13058Palavras-chave:
Direitos fundamentais, Discriminação, Inteligência artificial, Racismo, TecnologiaResumo
O presente trabalho tem como objetivo analisar o funcionamento tecnológico do algoritmo e como eles se desenvolveram para replicar a discriminação racial e perpetuar o preconceito em face da população negra, grupos historicamente marginalizados e vulnerabilizados. Para tanto, questiona-se: como o racismo algorítmico pode impactar na esfera financeira-econômica de uma pessoa negra em relaçãoa de uma pessoa branca? A hipótese é de que os algoritmos são manuseados/programados recebendo uma intervenção humana, logo, a programação algorítmica estaria eivada de subjetividade, resultando então no racismo algorítmico. Para avaliar a referida hipótese, adota-se uma metodologia hipotético-dedutiva. Almeja-se, num primeiro momento, analisar brevemente a evolução histórica tecnológica que adveio da Revolução Industrial; para, em seguida, verificar se os algoritmos discriminatórios resultam no impedimento da emancipação econômica e digital das pessoas negras. Serão considerados os fundamentos constitucionais do Estado Democrático de Direito brasileiro, para discutir se o Estado é capaz de coibir tais discriminações e promover a equidade étnico-racial.
Downloads
Referências
Amazonas Atual. Como a tecnologia pode contribuir com a economia. Amazonas Atual, 9 out. 2020. Disponível em: https://amazonasatual.com.br/como-a-tecnologia-pode-contribuir-com-a-economia/. Acesso em: 13 out. 2024.
Almeida, S. L. Racismo estrutural. São Paulo: Pólen, 2019.
Arruda, J. J. A. História Moderna e Contemporânea. São Paulo: Ática, 1986.
Bezerra, A. C.; Costa, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em Revista, v. 18, n. 2, e6043, 2022.d
Brasil. Decreto nº 65.810, de 8 de dezembro de 1969. Promulga a Convenção de Viena sobre Relações Diplomáticas. Diário Oficial da União, Brasília, DF, 9 dez. 1969. Disponível em: https://www.planalto.gov.br/ccivil_03/decreto/1950-1969/d65810.html. Acesso em: 15 out. 2024.
Brasil. Lei nº 12.288, de 20 de julho de 2010. Institui o Estatuto da Igualdade Racial; altera as Leis nos 7.716, de 5 de janeiro de 1989, 9.029, de 13 de abril de 1995, 7.347, de 24 de julho de 1985, e 10.778, de 24 de novembro de 2003. Diário Oficial da união: seção 1, Brasília, DF, p. 1, 27 jul. 2010.
Brasil. Lei n.º 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei n.º 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 13 out. 2024.
Brasil. Supremo Tribunal Federal. Habeas-Corpus 82.424-RS. Publicação de livros: Anti-semitismo. Racismo. Crime imprescritível. Conceituação. Abrangência constitucional. Liberdade de expressão. Limites. Ordem denegada. Relator: Min. Moreira Alves. Julgado em 17 set. de 2003. Publicado em 19 mar. 2004. Disponível em: https://www.jusbrasil.com.br/jurisprudencia/stf/770347. Acesso em: 19 ago. 2024.
Brasil. Supremo Tribunal Federal. ADPF nº 186, Distrito Federal. Relator: Ricardo Lewandowski. Julgada em 25 de abril de 2012. Diário da Justiça Eletrônico, Brasília, DF, 20 out. 2014. Disponível em: https://portal.stf.jus.br/processos/downloadPeca.asp?id=269432069&ext=.pdf. Acesso em: 15 out. 2024.
Canela Junior, O. A efetivação dos direitos fundamentais através do processo coletivo: o âmbito de cognição das políticas públicas pelo Poder Judiciário. 2009. Tese (Doutorado em Direito Processual) – Universidade de São Paulo, São Paulo, 2009. Doi: https://doi.org/10.11606/T.2.2009.tde-03062011-114104
Cano, R. J. O robô racista, sexista e xenófobo da Microsoft acaba silenciado. Projetado para o mercado dos ‘millennials’ nos Estados Unidos, Tay não foi capaz de lidar com piadas e perguntas controvertidas. El Pais, San Francisco, 25 mar. 2016. Tecnologia. Disponível em: https://brasil.elpais.com/brasil/2016/03/24/tecnologia/1458855274_096966.html. Acesso em: 8 mar. 2023.
Carvalho, M. Inteligência artificial pode perpetuar o racismo, diz diretora da DataSphere. Para especialistas, dados usados pela IA contêm estereótipos que podem prejudicar comunidades marginalizadas. Jota, [s. l.], 18 abr. 2023. Disponível em: https://www.jota.info/jotinhas/inteligencia-artificial-pode-perpetuar-o-racismo-diz-diretora-da-datasphere-17042023. Acesso em: 20 abr. 2023.
Castells, M.; Cardoso, G (org.). A sociedade em rede: do conhecimento à açção política. Imprensa Nacional: Casa da Moeda, 2005.
Castro, A. A. M.; Prado, P. P. Algoritmos para reconhecimento de padrões. Revista Ciências Exatas, v. 5, p. 129-145, 2015.
Cavallini, M. Proporção de pretos e pardos entre os pobres chega ao dobro em relação aos brancos, mostra o IBGE. G1, São Paulo, 11 nov. 2022. Economia. Disponível em: https://g1.globo.com/economia/noticia/2022/11/11/proporcao-de-pobres-pretos-e-pardos-chega-ao-dobro-em-relacao-aos-brancos-mostra-o-ibge.ghtml. Acesso em: 16 jul. 2023.
Costa, F. V.; Pinto, A. A. A(in) compatibilidade da execução provisória da pena com a garantia da presunção de inocência na perspectiva do processo constitucional brasileiro. Argumenta Journal Law, n. 38, p. 45-85, 2022.
Duque, A. Inteligência Artificial: os benefícios da IA no dia a dia do usuário de ERP. CryptoID, [s. l.], 14 abr. 2023. Disponível em: https://cryptoid.com.br/inteligencia-artificial/inteligencia-artificial-os-beneficios-da-ia-no-dia-a-dia-do-usuario-de-erp/#:~:text=Com%20a%20IA%2C%20%C3%A9%20poss%C3%ADvel,decis%C3%A3o%20mais%20r%C3%A1pida%20e%20precisa. Acesso em: 18 abr. 2023.
Farah Júnior, M. F. A Terceira Revolução Industrial e o Novo Paradigma Produtivo: Algumas Considerações sobre o Desenvolvimento Industrial Brasileiro nos Anos 90. Revista da FAE, v. 3, n. 2, 2017. Disponível em: https://revistafae.fae.edu/revistafae/article/view/501. Acesso em: 22 maio 2023.
Frazão, A. Discriminação algorítmica. Jota, [s. l.], 18 abr. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-1606202. Acesso em: 1 abr. 2023.
Goldoni, L. R. F. Guerra, revolução industrial e desenvolvimento tecnocientífico. Coleção Meira Mattos: Revista das Ciências Militares, n. 26, 2012.
Hayne, L. A.; Wyse, A. T. Análise da evolução da tecnologia: uma contribuição para o ensino da ciência e tecnologia. Revista Brasileira de Ensino de Ciência e Tecnologia, v. 11, n. 3, 2018. Disponível em: https://periodicos.utfpr.edu.br/rbect/article/view/5947. Acesso em: 25 mar. 2023.
Hesmondhalgh, D. et al. The impact of algorithmically driven recommendation systems on music consumption and production: a literature review. Londres: Department for Digital, Culture, Media & Sport, 2023. Disponível em: https://www.gov.uk/government/publications/research-into-the-impact-of-streaming-services-algorithms-on-music-consumption/the-impact-of-algorithmically-driven-recommendation-systems-on-music-consumption-and-production-a-literature-review. Acesso em: 1 mar. 2023.
Lastres, H. M. M. et al. Globalização e inovação localizada. In: Cassiolato, J. E.; Lastres, H. M. M. (ed.). Globalização e Inovação Localizada: experiências de Sistemas Locais no Mercosul. Brasília: IEL/IBICT, 1999.
Lima, B. D. F. Racismo Algorítmico: o enviesamento tecnológico e o impacto aos direitos fundamentais no Brasil. 2022. Dissertação (Mestrado em Direito) – Universidade Federal de Sergipe, São Cristóvão, 2022.
Longo, W. P. Tecnologia e soberania nacional. São Paulo, Ed. Nobel, 1984.
Magrini, E. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2. ed. Porto Alegre: Arquipélago Editorial, 2019.
Maia, J. M. E. A sociologia latino-americana na Guerra Fria Cultural: Florestan Fernandes, Aldo Solari e o Ilari. História, Ciências, Saúde-Manguinhos, v. 29, n. 4, p. 915-932, 2022. Doi: https://doi.org/10.1590/S0104-59702022000400003
Martino, J. P. Technological Forecasting for Decision Making. 2. ed. New York: McGraw-Hill, 1983.
Moreira, A. J. Pensando como um negro: ensaio de hermenêutica jurídica. São Paulo: Editora Contracorrente, 2019.
Nunes, P. Levantamento revela que 90,5% dos presos por monitoramento facial no brasil são negros. InterceptBrasil, [s. l.], 21 dez. 2019. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasilnegros/. Acesso em: 12 abr. 2023.
Oliveira, F. A. F.; Barroco, S. M. S. Revolução tecnológica e smartphone: considerações sobre a constituição do sujeito contemporâneo. Psicologia em Estudo, v. 28, p. 1-26, 2023. Doi: https://doi.org/10.4025/psicolestud. v28i0.51648.
Oliveira, J. R. F. O direito como meio de controle social ou como instrumento de mudança social? Revista de informação Legislativa, v. 34, n. 136, p. 377-381, 1997. Disponível em: http://www2.senado.leg.br/bdsf/handle/id/324. Acesso em: 23 mar. 2023.
Requião, M.; Costa, D. C. Discriminação algorítmica: ações afirmativas como estratégia de combate. Civilistica. com, v. 11, n. 3, 2022. Disponível em: http://civilistica.com/discriminacaoalgoritmica/. Acesso em: 18 abr. 2023.
Silva, J. C. T. Tecnologia: conceitos e dimensões. In: XXII Encontro Nacional de Engenharia de Produção, 2002, Curitiba. Anais eletrônico [...]. Curitiba, Enegep, 2002. Disponível em: https://abepro.org.br/biblioteca/enegep2002_tr80_0357.pdf. Acesso em: 26 mar. 2023.
Silva, J. C. T. Tecnologia: novas abordagens, conceitos, dimensões e gestão. Revista Produção, v. 13, n. 1, p. 50-63, 2003.
Silva, M. M.; Bittencourt, J. B.; Santos, J. N. “Questão social” no Brasil: racismo estrutural e superexploração do trabalho. Revista Crise Ambiental e Lutas Sociais, v. 26, n. 52, 2023.
Silva, T. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc SP, 2022.
Werneck, J. Racismo institucional e saúde da população negra. Saúde e Sociedade, v. 25, n. 3, p. 535-549, 2016. Doi: https://doi.org/10.1590/S0104-129020162610
Yeshimabeit, M.; Traub, A., 2021. Data capitalism and Algorithmic Racism. Cambridge: Data For Black Lives, c2021. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://datacapitalism.d4bl.org/documents/Demos_Data_Capitalism_Final.pdf. Acesso em: 29 mar. 2023.
