O dever de accountability algorítmica sob a Convenção Americana sobre Direitos Humanos
DOI:
https://doi.org/10.24220/2675-9160v6a2025e16093Palavras-chave:
Accountability algorítmica, Convenção Americana sobre Direitos Humanos, Direitos humanosResumo
O presente artigo busca demonstrar que a Convenção Americana sobre Direitos Humanos impõe ao Brasil o dever de regular, respeitar e supervisionar a accountability algorítmica. Para isso, com base na metodologia hipotético-dedutiva, o trabalho explica os aspectos fundamentais dos algoritmos, expõe os seus riscos à democracia e aos direitos humanos e destaca a natureza política desse campo, evidenciando a urgente necessidade de normatização da accountability algorítmica no âmbito interno. A partir da perspectiva multinível dos direitos humanos, confirma-se a hipótese de que a Convenção Americana sobre Direitos Humanos exige do Estado brasileiro a regulação, o respeito e a supervisão da accountability algorítmica, sob pena de responsabilização internacional, inclusive por omissão.
Downloads
Referências
Algorithmic Transparency Recording Standard Hub. GOV.UK, 5 jan. 2023. Available from: https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub. Cited: 2025 May 23.
Bezerra, A. C. B.; Costa, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em Revista, v. 18, n. 2, e6043, 2022. Doi: https://doi.org/10.18617/liinc.v18i2.6043. DOI: https://doi.org/10.18617/liinc.v18i2.6043
Branco, S.; Teffé, C. S. (coord.). Inteligência Artificial e Big Data: diálogos da pós-graduação em Direito Digital. Rio de Janeiro: Instituto de Tecnologia e Sociedade do Rio de Janeiro, 2022. 327 p. Disponível em: https://itsrio.org/wpcontent/uploads/2022/10/Livro_P%C3%B3s_ITS-UERJ_COMPLETO_v3.pdf. Acesso em: 17 abr. 2024.
Burrell, B. How the machine ‘thinks’: understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 1-12, 2016. DOI: https://doi.org/10.1177/2053951715622512
Carrera, F.; Carvalho, D. Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais. Galáxia, n. 43, p. 99-114, 2020. Doi: http://dx.doi.org/10.1590/1982-25532020141614. DOI: https://doi.org/10.1590/1982-25532020141614
Coalizão Direitos na Rede. Projeto de Lei n. 2338/2023. Direitos na Rede, 18 jun. 2024. Disponível em: https://direitosnarede.org.br/2024/06/18/projeto-de-lei-n-2338-2023/. Acesso em: 16 maio 2025.
Conselho Nacional de justiça (Brasil). Protocolo para Julgamento com Perspectiva de Gênero. Brasília: CNJ, 2021. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2021/10/protocolo-para-julgamento-comperspectiva-de-genero-cnj-24-03-2022.pdf. Acesso em: 16 maio 2025.
Corte Interamericana de Direitos Humanos. Caso Vera Rojas e Outros Vs. Chile. Exceções preliminares, Mérito, Reparações e Custas. Sentença de 1 de outubro de 2021. San José: CORTE IDH, 2021. Disponível em: https://www.corteidh.or.cr/docs/casos/articulos/seriec_439_esp.pdf. Acesso em: 2 jun. 2025.
Corte Interamericana de Direitos Humanos. Caso Ximenes Lopes Vs. Brasil. Mérito, Reparações e Custas. Sentença de 4 de julho de 2006. Disponível em: https://www.corteidh.or.cr/docs/casos/articulos/seriec_149_por.pdf. Acesso: 10 dez. 2025.
Dastin, J. Insight − Amazon scraps secret AI recruiting tool that showed bias against women. Reuters, 11 out. 2018. Available from: https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruitingtool-that-showed-bias-against-women-idUSKCN1MK0AG/. Cited: 2025 Dec 11.
European Approach to Artificial Intelligence. European Comission, [202-?]. Disponível em: https://digitalstrategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence. Acesso em: 23 maio 2025.
Fachin, M. Constitucionalismo multinível: diálogos e(m) direitos humanos. Revista Ibérica do Direito, v. 1, n. 1, p. 53-68, 2021. Disponível em: https://www.revistaibericadodireito.pt/index.php/capa/article/view/26. Acesso em: 17 abr. 2024.
Fachin, M.; Ramos, C. M. V. Direito à autodeterminação informativa. In: Fachin, M. G.; Câmara, F. H. (coord.). Dicionário Interamericano de Direitos Humanos. Volume 2: direitos e deveres. Rio de Janeiro: Lumen Juris, 2024. p. 21-23.
Ferrari, I. Accountability de algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. Inteligência Artificial: 3º Grupo de Pesquisa do ITS. Rio de Janeiro: ITS - Instituto de Tecnologia e Sociedade do Rio, 2018. f. 1-18. Disponível em: https://itsrio.org/wp-content/uploads/2019/03/Isabela-Ferrari.pdf. Acesso em: 23 maio 2025.
Ferrari, I. Discriminação algorítmica e poder judiciário: limites à adoção de sistemas de decisões algorítmicas no judiciário brasileiro. Florianópolis: Emais Editora, 2023.
Garbin, G. A. L. Dever de adotar disposições de direito interno. In: Fachin, M. G.; Câmara, F. H. (coord.). Dicionário Interamericano de Direitos Humanos. Volume 2: direitos e deveres. Rio de Janeiro: Lumen Juris, 2024. p. 341-342.
Hora, N. Da neutralidade à IA decolonial. ComCiência, 15 jun. 2024. Disponível em: https://www.comciencia.br/da-neutralidade-a-ia-decolonial/. Acesso em: 23 maio 2025.
Instituto de Tecnologia & Sociedade do Rio. Como regular a inteligência artificial? Expandindo horizontes de análise para além da União Europeia. Rio de Janeiro, 2024. 26 p. Disponível em: https://itsrio.org/wp-content/uploads/2016/12/20240404_Relatorio_Microsoft_Como-Regular-IA_3.pdf. Acesso em: 24 abr. 2024.
Köchling, A.; Wehner, M. C. Discriminated by an algorithm: a systematic review of discrimination and fairness by algorithmic decision-making in the context of HR recruitment and HR development. Business Research, Düsseldorf, v. 13, p. 795-848, 2020. Doi: https://doi.org/10.1007/s40685-020-00134-w. Acesso em: 24 abr. 2024. DOI: https://doi.org/10.1007/s40685-020-00134-w
Kroll, J. A. et al. Accountable Algorithms. University of Pennsylvania Law Review, v. 165, n. 2765268, p. 1-66, 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2765268. Acesso em: 24 abr. 2025.
Lemos, R. China cria a primeira regulação para algoritmos. Folha de São Paulo, 8 set. 2021. Artigos. Disponível em: https://itsrio.org/pt/artigos/china-cria-a-primeira-regulacao-para-algoritmos/. Acesso em: 23 maio 2025.
Lopes, A. J.; Paola, E. Precisamos conter os riscos da inteligência artificial, diz Lula. In: Poder360. Governo, 23 maio. 2024. Disponível em: https://www.poder360.com.br/governo/precisamos-conter-os-riscos-dainteligencia artificial-diz-lula/. Acesso em: 16 maio 2025.
Mattos Filho. Inteligência artificial: avaliação de impacto algorítmico. Notícias e Negócios, 26 set. 2023. Disponível em: https://www.mattosfilho.com.br/unico/inteligencia-artificial-avaliacao-impactoalgoritmico/. Acesso em: 16 maio 2025.
Mota, R. K. B. et al. Concepções teóricas sobre accountability. In: Congresso UFU de Contabilidade, 4., 2021, Uberlândia. Uberlância: UFU, 2021. f. 1-19. Disponível em: https://eventos.ufu.br/sites/eventos.ufu.br/files/documentos/contufu2021.completo0078.pdf. Acesso em: 23 maio 2025.
Nem tudo são flores no mundo da Inteligência Artificial. Estadão, 7 ago. 2023. Disponível em: https://www.estadao.com.br/politica/gestao-politica-e-sociedade/nem-tudo-sao-flores-no-mundo-da-inteligenciaartificial/. Acesso em: 23 maio 2025.
Noble, S. U. Algorithms of Oppression: how search engines reinforce racism. [S. l.]: NYU Press, 2018. O’Neil, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Rua do Sabão, 2020.
Ordonez, V.; Dunn, T.; Noll, E. OpenAI CEO Sam Altman says AI will reshape society, acknowledges risks: ‘A little bit scared of this’. ABC News Technology, 16 mar. 2023. Disponível em: https://abcnews.go.com/Technology/openai-ceo-sam-altman-ai-reshape-society-acknowledges/story?id=97897122. Acesso em: 23 maio 2025.
Organização dos Estados Americanos. Comissão Interamericana de Direitos Humanos. Empresas e Direitos Humanos: padrões interamericanos. Washington, D.C.: OEA, 2019. Disponível em: https://www.oas.org/pt/cidh/relatorios/pdfs/empresas%20e%20direitos.pdf. Acesso em: 2 jun. 2025.
Organização dos Estados Americanos. Convenção Americana sobre Direitos Humanos (Pacto de San José da Costa Rica). San José: Comissão Interamericana de Direitos Humanos, 1969. Disponível em: https://www.cidh.oas.org/basicos/portugues/c.convencao_americana.htm. Acesso em: 15 dez. 2025.
Organization for Economic Co-operation and Development. Global trends in government innovation 2023. OECD Public Governance Reviews. Paris: OECD Publishing, 2023. Doi: https://doi.org/10.1787/0655b570-en. Acesso em: 16 maio 2025. DOI: https://doi.org/10.1787/0655b570-en
Parra, H. Z. M.; Abdo, A.H. Tendências democráticas e autoritárias, arquiteturas distribuídas e centralizadas. In: Bragatto, R. C.; Sampaio, R. C.; Silva, S. P. (org.). Democracia digital, comunicação política e redes: teoria e prática. Rio de Janeiro: Folio Digital: Letra e Imagem, 2016. cap. 5, p. 137-159. DOI: https://doi.org/10.24328/2017/61012.87/05
Rached, D. H. Accountability e desenho institucional: um ponto cego no direito público brasileiro. Revista Brasileira de Políticas Públicas, v. 11, n. 1, p. 190-209, 2021. Doi: https://doi.org/10.5102/rbpp.v11i1.6745. DOI: https://doi.org/10.5102/rbpp.v11i1.6745
Regulação Algorítmica. Entrevistado: Karen Young. Digilabour, 14 mar. 2020. Interviews. Disponível em: https://digilabour.com.br/pt/regulacao-algoritmica-entrevista-com-karen-young/. Acesso em: 23 maio 2025.
Ribeiro, E. Decifrando a tecnologia do reconhecimento facial. Medium: Human Stories & Ideas, 17 jan. 2023. Disponível em: https://medium.com/@elieser_ribeiro/decifrando-a-tecnologia-do-reconhecimento-facial27ee45eb6ada. Acesso em: 17 abr. 2024.
Saldanha, P. M. Governança, accountability e avaliação de impacto algorítmico. Conjur – Consultor Jurídico, 4 jun. 2024. Disponível em: https://www.conjur.com.br/2024-jun-04/governanca-accountability-e-avaliacaode-impacto-algoritmico/. Acesso em: 23 maio 2025.
Sfredo, M.; Lopes, R. Um “novo Estado”? Mais ricas do que muitos países, empresas gigantes da tecnologia são cobradas por suas práticas: Google, Facebook, Apple, Amazon e Microsoft têm sido chamadas a explicar suas atuações nem sempre saudáveis no ambiente democrático. GZH, 18 dez. 2020. Disponível em: https://gauchazh.clicrbs.com.br/tecnologia/noticia/2020/12/um-novo-estado-mais-ricas-do-que-muitos-paisesempresas-gigantes-da-tecnologia-sao-cobradas-por-suas-praticas-ckiudceo70001019woewvaey2.html. Acesso em: 16 maio 2025.
Silva, T. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as, v. 12, n. 31, p. 428-448, 2020. Doi: https://doi.org/10.31418/2177-2770.2020. DOI: https://doi.org/10.31418/2177-2770.2020.v12.n.31.p428-448
Soares, M. Uma IA decolonial é possível? Desinformante: informação confiável sobre desinformação, 26 jun. 2024. Disponível em: https://desinformante.com.br/ia-decolonial/. Acesso em: 23 maio 2025.
Volz, M. B. Dever de supervisionar atividades empresariais. In: Fachin, M. G.; Câmara, F. H. (coord.). Dicionário Interamericano de Direitos Humanos. Volume 2: direitos e deveres. Rio de Janeiro: Lumen Juris, 2024. p. 425-427.
Wimmer, M.; Doneda, D. “Falhas de IA” e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização. Revista Direito Público, v. 18, n. 100, p. 374-404, 2021. Doi: https://doi.org/10.11117/rdp.v18i100.6119. Acesso em: 25 maio 2025. DOI: https://doi.org/10.11117/rdp.v18i100.6119
