GOVERNANÇA (DISCIPLINAR) ALGORÍTMICA

Barra lateral de artigos

PDF
Publicado: ago 20, 2021
DOI: https://doi.org/10.26668/IndexLawJournals/2526-0049/2021.v7i1.7873
Palavras-chave:
Algoritmos tendenciosos, Controle, Exclusão, Infamiliar, Governança.

Conteúdo do artigo principal

Mariana Carolina CAROLINA Lemes
Universidade do Oeste de Santa Catarina

Resumo

A pesquisa qualitativa, de método  indutivo, com uso da documentação indireta, visa responder como a análise de dados e metadados com papel preditivo de comportamentos vêm sendo utilizados pelas agências governamentais. A hipótese primária é de que os algoritmos devem ser utilizados com transparência e ética pelas agências governamentais. É objetivo geral do trabalho analisar os algoritmos como poderoso instrumento para a governabilidade. Os objetivos específicos voltam-se para a problematização dos riscos dos algoritmos opacos. Os Casos Wisconsin v. Loomis e SyRI foram discutidos, de forma a apontar os malefícios de códigos opacos no setor público.

Downloads

Não há dados estatísticos.

Detalhes do artigo

Como Citar
LEMES, Mariana Carolina CAROLINA. GOVERNANÇA (DISCIPLINAR) ALGORÍTMICA. Revista de Direito, Governança e Novas Tecnologias, Florianopolis, Brasil, v. 7, n. 1, p. 57–75, 2021. DOI: 10.26668/IndexLawJournals/2526-0049/2021.v7i1.7873. Disponível em: https://indexlaw.org/index.php/revistadgnt/article/view/7873. Acesso em: 2 jan. 2025.
Edição
v. 7 n. 1 (2021): JANEIRO - JUNHO
Seção
Artigos

• O(s) autor(es) autoriza(m) a publicação do artigo na revista;
• O(s) autor(es) garante(m) que a contribuição é original e inédita e que não está em processo de avaliação em outra(s) revista(s);
• A revista não se responsabiliza pelas opiniões, ideias e conceitos emitidos nos textos, por serem de inteira responsabilidade de seu(s) autor(es);
• É reservado aos editores o direito de proceder ajustes textuais e de adequação do artigo às normas da publicação.

Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional, que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.

Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.

Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre) em http://opcit.eprints.org/oacitation-biblio.html

Biografia do Autor

Mariana Carolina CAROLINA Lemes, Universidade do Oeste de Santa Catarina

Professora do Curso de Graduação em Direito da UNOESC, campus Chapecó/SC.
Doutoranda em Direitos Fundamentais (UNOESC)Mestre em Direitos Sociais, Difusos e Coletivos (UNISAL)Especialista em Direito Constitucional (PUCSP)
Crossref
Scopus
Google Scholar
Europe PMC

Referências

ANGWIN, Julia et. al. Machine Bias: There´s software used across the country to predict future criminals. And it´s biased against blacks. 23 maio 2016. Disponível em: http://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 04 abr. 2021.

BAUMAN, Zygmunt. Capitalismo parasitário: e outros temas contemporâneos. Zygmunt Bauman e Tim May. Rio de Janeiro: Zahar, 2010.

BAUMAN, Zygmunt. Vigilância líquida. Diálogos com David Lyon. Rio de Janeiro: Zahar, 2014.

BIGO, D. Security, exception, ban and surveillance. In: Theorizing Surveillance: the panopticon and beyond. Lyon, D. (ed.). Willan Publishing. Portland: Willan Publishing, 2006.

BOND, Michaelle. Government Is Using Algorithms - Is It Assessing Bias? Government Technology. 10 dez. 2018. Disponível em: http://www.govtech.com/dc/Government-is-Using-Algorithms-Are-They-Assessing-Bias.html. Acesso em: 05 abr. 2021.

BURACK, Justin. Addressing Algorithmic Discrimination in the European Union. A Path for Europe. Novembro, 24, 2020. Disponível em: http://pathforeurope.eu/addressing-algorithmic-discrimination-in-the-european-union/. Acesso em: 21 mar. 2021.

CEREIJIDO, Fanny Blanck. O olhar sobre o estrangeiro: The gaze on the foreigner. Ide (São Paulo), São Paulo, v. 31, n. 47, p. 61-65, dez. 2008. Disponível em <http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S0101-31062008000200010&lng=pt&nrm=iso>. acessos em 21 mar. 2021.

CORBETT-DAVIES, Sam et.al. A computer program used for bail and sentencing decisions was labeled biased against blacks. It´s actually not that clear. The Washington Post, Monkey Cage, 17 out. 2016. Disponível em: http://www.washingtonpost.com/news/monkey-cage/wp/2016/10/17/can-an-algorithm-be-racist-our-analysis-is-more-cautious-than-propublicas/?noredirect=on. Acesso em: 04 abr. 2021.

DE GENOVA, Nicholas. Spectacles of migrant ‘illegality’: the scene of exclusion, the obscene of inclusion. Ethnic and Racial Studies, 36: 7, 1180-1198, DOI: 10.1080/01419870.2013.783710. Acesso em: 04 abr. 2021.

DHASARATHY, Anusha; JAIN, Sahil; KHAN, Naufal. When governments turn to AI: Algorithms, trade-offs, and trust. 19 out. 2020. Disponível em: http://www.mckinsey.com/industries/public-and-social-sector/our-insights/when-governments-turn-to-ai-algorithms-trade-offs-and-trust#. Acesso em: 04 abr. 2021.

DONNELLY, Drew. An Introduction to the China Social Credit System. New Horizons. 18 mar. 2021. Disponível em: http://nhglobalpartners.com/china-social-credit-system-explained/. Acesso em: 02 abr. 2021.

DUTCH Court Rules Secret Welfare Algorithm Violates Human Rights. Electronic Privacy Information Center. Washington, Fevereiro, 5, 2020. Disponível em: http://epic.org/2020/02/dutch-court-rules-secret-welfa.html. Acesso em: 21 mar. 2021.

ETHICS & Algorithms Toolkit. Creative Commons Attribution 4.0 International. Disponível em: http://ethicstoolkit.ai/. Acesso em: 04 abr. 2021.

FLORES, Anthony W.; LOWENKAMP, Christopher T.; BECHTEL, Kristin. False Positives, False Negatives, and False Analyses: A Rejoinder to “Machine Bias: There´s Software Used Across the Country to Predict Future Criminals. And it´s Biased Against Blacks.” Disponível em: http://www.crj.org/assets/2017/07/9_Machine_bias_rejoinder.pdf. Acesso em: 04 abr. 2021.

FREUD. Sigmund. (1919). O infamiliar [Das Unheimliche]. Edição comemorativa bilíngue (1919-2019). Tradução Ernani Chaves, Rogério Freitas e Pedro Heliodo Tavares. Editora Autêntica: 2019.

HOLDER JR., Eric H. Attorney General Eric Holder Speaks at the National Association of Criminal Defense Lawyers 57th Annual Meeting and 13th State Criminal Justice Network Conference. The United States Department of Justice. Philadelphia, PA, August 1, 2014. Disponível em: http://www.justice.gov/opa/speech/attorney-general-eric-holder-speaks-national-association-criminal-defense-lawyers-57th. Acesso em: 04 abr. 2021.

KLEINBERG, Jon; MULLAINATHAN, Sendhil; RAGHAVAN, Manish. Compensações inerentes na determinação justa das pontuações de risco. Cornell University, 19 set. 2016, revisado em 17 nov. 2016. Disponível em: http://arxiv.org/abs/1609.05807. Acesso em: 04 abr. 2021.

KRANZBERG, Melvin. Technology and History: “Kranzberg´s laws”. Bull. Sci. Tech. Soc., Vol. 15, N. 1, pp. 5-13, 1 fev. 1995, STS Press. http://doi.org/10.1177/027046769501500104. Disponível em: http://journals.sagepub.com/doi/abs/10.1177/027046769501500104. Acesso em: 04 abr. 2021.

LEMES, Marcelle Martins. Inteligência artificial, algoritmos e policiamento preditivo no poder público federal brasileiro. 2019. Trabalho de Conclusão de Curso (Bacharelado em Direito), Universidade de Brasília, Brasília, 2019. Disponível em: http://bdm.unb.br/handle/10483/24565. Acesso em: 02 abr. 2021.

MENEZES NETO, Elias Jacob de. Vigilância ou surveillance? Proposta para começar a compreender corretamente este fenômeno. Revista dos Tribunais, v. 939, p. 159-182, jan. 2014. Disponível em: http://dspace.almg.gov.br/handle/11037/21500. Acesso em: 03 abr. 2021.

MORAIS, José Luis Bolzan de. O Estado de Direito "confrontado" pela "revolução da internet"! Revista Eletrônica do Curso de Direito da UFSM, v. 13, n. 3, pp. 876-903, 2018. Disponível em: http://periodicos.ufsm.br/revistadireito/article/view/33021. Acesso em: 03 abr. 2021.

OPEN Data Strategic Plan. Cambridge open data. 1 abr. 2019. Disponível em: http://data.cambridgema.gov/General-Government/Open-Data-Strategic-Plan/w7ax-fa5u. Acesso em: 05 abr. 2021.

SCHMITT, Carl. O conceito do político. Petrópolis: Vozes, 1992.

SNIRCEK, Nick. Platform capitalism. Cambridge: Polity Press, 2017. Resenha de: SILVA NETO, Victo. Revista Brasileira de Inovação, 18(2):449-454, Unicamp. DOI: 10.20396/rbi.v18i2.8654960. Disponível em: http://periodicos.sbu.unicamp.br/ojs/index.php/rbi/article/view/8654960/21737. Acesso em: 04 abr. 2021.

STATE v. Loomis. Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Assessments in Sentencing. Harvard law review. Criminal law. 10 mar. 2017. Disponível em: http://harvardlawreview.org/2017/03/state-v-loomis/. Acesso em: 04 abr. 2021.

TASHEA, Jason. Courts Are Using AI to Sentence Criminals. That Must Stop Now. Opinion: Courts should pause the use of algorithms for criminal sentencing. Wired. 17 abr. 2017. Disponível em: http://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-now/. Acesso em: 04 abr. 2021.

THIESEN, Icléia; SANTANA, Marco Aurélio. Do exame à identificação ou do panóptico ao banóptico: memória e representações. Identidades. XIII Encontro de História Anpuh Rio. 2008. Disponível em: http://encontro2008.rj.anpuh.org/resources/content/anais/1212615086_ARQUIVO_Thiesen&Santanaanpuhriofinaljunho%5B1%5D.pdf. Acesso em: 04 abr. 2021.