INTELIGÊNCIA ARTIFICIAL NO DIREITO: DILEMAS E CONTRIBUIÇÕES
Conteúdo do artigo principal
Resumo
Um dos mais importantes aspectos da Inteligência Artificial (IA) é a inevitabilidade da presença de vieses. Neste trabalho, apresenta-se uma pesquisa qualitativa apontando as possíveis causas, efeitos e malefícios desses vieses e como mitigá-los. Uma das formas de mitigação é a democratização do processo de criação e execução da IA, que, contudo, em determinados tipos de IA, como na Deep Learning, não se revela suficiente, uma vez que o processo decisório é opaco a humanos. No âmbito do Direito, devido aos vieses, a IA deve ser utilizada em estreita participação com humanos, devendo caber, sempre, a decisão final ao homem.
Downloads
Detalhes do artigo
• O(s) autor(es) autoriza(m) a publicação do artigo na revista;
• O(s) autor(es) garante(m) que a contribuição é original e inédita e que não está em processo de avaliação em outra(s) revista(s);
• A revista não se responsabiliza pelas opiniões, ideias e conceitos emitidos nos textos, por serem de inteira responsabilidade de seu(s) autor(es);
• É reservado aos editores o direito de proceder ajustes textuais e de adequação do artigo às normas da publicação.
Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional, que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre) em http://opcit.eprints.org/oacitation-biblio.html
Referências
ALEXY, Robert. Teoria dos direitos fundamentais. Tradução de Virgílio Afonso da Silva. 2. Edição. São Paulo. Malheiros, 2015.
BAER, Tobias. Understand, Manage, and Prevent Algorithmic Bias: A Guide for Busines Users and Data Scientists. Berkeley, Apress, 2019.
BBC. Google apologises for Photos app’s racist blunder. 2015. Disponível em: https://www.bbc.com/news/technology-33347866. Acesso em: 30 de ago. 2021.
BIBLIOTECONOMIADIGITAL. BASES DE DADOS: conceito, classificações, critérios, aspectos importantes e exemplos. Biblioteconomiadigital, 2017. Disponível em: https://biblioteconomiadigital.com.br/2017/12/bases-de-dados-conceito-classificacoes.html#:%20%CC%83:text=Base%20de%20dados%3A%20conjunto%20de,conjunto%20de%20%20Bases%20de%20Dados. Acesso em: 07 out. 2021.
BOEING, D. H. A. B. Ensinando um robô a julgar: pragmática, discricionariedade e vieses no uso de aprendizado de máquina no judiciário. 2019. Trabalho de Conclusão de Curso de Graduação em Direito do Centro de Ciências Jurídicas da Universidade Federal de Santa Catarina, Florianópolis, 2019.
BRASIL. Conselho Nacional de Justiça. Relatório Analítico propositivo Justiça Pesquisa: Judicialização da Saúde no Brasil: Perfil das demandas, causas e propostas de solução. CNJ, 2019. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2011/02/95da70941b7cd226f9835d56017d08f4.pdf. Acesso em: 18 nov. 2021.
______. Conselho Nacional de Justiça. Justiça em números 2021, Brasília: CNJ, 2021. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2021/09/relatorio-justica-em-numeros2021-12.pdf. Acesso em 18 nov. 2021.
______. Supremo Tribunal Federal - ARE: 1335473 MG 1029171-53.2019.4.01.0000, Relator: EDSON FACHIN, Data de Julgamento: 11/11/2021, Segunda Turma, Data de Publicação: 10/01/2022.
CANZIANI, Luísa. Marco Legal da Inteligência Artificial - as três premissas. Correio Braziliense, 2021. Disponível em: https://www.correiobraziliense.com.br/opiniao/2021/08/4942488-artigo-marco-legal-da-inteligencia-artificial---as-tres-premissas.html. Acesso em: 10 ago. 2021.
CARVALHO, A.C.P.L.F. Redes Neurais Artificiais. ICMC. [s.d]. Disponível em: https://sites.icmc.usp.br/andre/research/neural/. Acesso em: 24 abr 2022.
CONPEDI. Congresso Internacional: Direito e Inteligência Artificial. Conpedi. 2020. Disponível em: https://www.conpedi.org.br/wp-content/uploads/2020/09/SKEMA-Intelig%C3%AAncia-Artificial-e-tecnologias-aplicadas-ao-Direito-IV.pdf. Acesso em: 24 abr 2022.
______. II CONGRESSO INTERNACIONAL DE DIREITO E INTELIGÊNCIA ARTIFICIAL. Conpedi. 2021. Disponível em: http://site.conpedi.org.br/publicacoes/b3vv7r7g. Acesso em: 24 abr 2022.
CORBO, W. Discriminação Indireta: o que é e como superá-la?. Jota, 2017. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/discriminacao-indireta-o-que-e-e-como-supera-la-09112017. Acesso em: 15 out. 2021.
COWGILL, Bo; TUCKER, Catherine E. Algorithmic Fairness and Economics. Columbia Business School Research Paper. 2020. Disponível em: https://dx.doi.org/10.2139/ssrn.3361280. Acesso em: 30 de ago. 2021.
DE ALMEIDA, Vitor Luís. A responsabilidade civil do Estado por erro judiciário sob a ótica do sistema lusófono. Análise nos ordenamentos jurídicos português e brasileiro. Revista de Informação Legislativa, v. 49, n196. 2012. Disponível em: https://www12.senado.leg.br/ril/edicoes/49/196/ril_v49_n196_p259.pdf. Acesso em: 25 abr. 2022.
DIDIER JUNIOR, Fredie; BRAGA, Paula Sarno; OLIVEIRA, Rafael. Curso de direito processual civil: Teoria Geral da Prova, Direito Probatório, Decisão, Precedente, Coisa Julgada e Tutela Provisória, v. 2, 11a ed. Salvador. Ed. JusPodivm, 2016.
DUARTE, Luciana G. M.; PIMENTA, Liana de B., A tutela jurisdicional do direito à saúde: Uma análise do relatório analítico propositivo “Judicialização da saúde no Brasil: Perfil das demandas, causas e propostas de solução”, do Conselho Nacional de Justiça. In Direito à saúde: Judicialização e pandemia do novo coronavírus, coordenação: L. G. M. Duarte e V. L. Vidal. São Paulo. Ed. Thomson Reuters, 2020.
DUARTE, Luciana. G. M. POSSIBILIDADES E LIMITES DO CONTROLE JUDICIAL SOBRE AS POLÍTICAS PÚBLICAS DE SAÚDE: Um Contributo para a Dogmática do Direito à Saúde. 2. Edição. Belo Horizonte. Editora Forum, 2020.
FEITOSA, Arnaldo B. ; ROGERS, Pablo; ROGERS, Dany. A influência de vieses cognitivos e motivacionais na tomada de decisão gerencial: evidências empíricas em uma empresa de construção civil brasileira. Revista de Negócios, Blumenau, v. 19, n. 3, p. 3-22, jul/set, 2020.
FRAZÃO, Ana. Geopricing e geoblocking: as novas formas de discriminação de consumidores. Jota, 2018. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/geopricing-e-geoblocking-as-novas-formas-de-discriminacao-de-consumidores-15082018. Acesso em 14 out. 2021.
______. Discriminação algorítmica: por que algoritmos preocupam quando acertam e erram?. Jota, 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-por-que-algoritmos-preocupam-quando-acertam-e-erram-04082021. Acesso em: 14 out. 2021.
GADAMER, Hans-Georg, Verdade e Método: Traços fundamentais de uma hermenêutica filosófica. Tradução Flávio Paulo Meurer, Petrópolis, 3a. ed, Editora Vozes, 1999.
GOMES, Pedro C. T. Ética e Inteligência Artificial: viés em machine learning. Datageeks, 2019. Disponível em: https://www.datageeks.com.br/etica-e-inteligencia-artificial/. Acesso em: 06 de ago. 2021.
HORTA, Ricardo de L. Por que existem vieses cognitivos na Tomada de Decisão Judicial? A contribuição da Psicologia e das Neurociências para o debate jurídico. Revista Brasileira de Políticas Públicas, Brasília, v.9, n. 3, p. 83-122, 2019.
KAHNEMAN, D. Rápido e Devagar: Duas formas de Pensar, tradução de Cássio de Arantes Leite. Rio de Janeiro, Objetiva, 2011.
KANDEL, E.R.; KOESTER, J. D.; MACK, S. and SIEGELBAUM, S. Principles of neural science. McGraw-hill New York, 6 edition, 2021.
LEE, N. T. ; RESNICK, P. ; BARTON, G. Algorithmic bias detection and mitigation: Best practices and policies to reduce consumer harms. Brookings, 2019. Disponível em: https://www.brookings.edu/research/algorithmic-bias-detection-and-mitigation-best-practices-and-policies-to-reduce-consumer-harms/. Acesso em: 22 set. 2021.
LOURENCINI, Antônio Rogério; DA COSTA, Yvete Flávio. O conteúdo mínimo da fundamentação das decisões judiciais no ordenamento jurídico brasileiro. Revista da Faculdade de Direito UFPR, v. 63, n. 1, p. 161-187, 2018.
MANYIKA, James; SILBERG, Jake. Como lidar com vieses na inteligência artificial (e nos seres humanos). McKinsey Global Institute, 2019. https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-bias-in-artificial-intelligence-and-in-humans/pt-br. Acesso em: 07 ago. 2021.
MICHAELIS. Bias. Michaelis. Disponível em: https://michaelis.uol.com.br/moderno-portugues/busca/portugues-brasileiro/bias. Acesso em: 25 ago. 2021.
MORETTIN, Pedro A.; BUSSAB, Wilton de O. Estatística básica. São Paulo, Saraiva,
NEGRI, Sérgio M. C. A. Robôs como pessoas: a personalidade eletrônica na Robótica e na inteligência artificial. Pensar, Revista de Ciências Jurídicas, Fortaleza, v. 25, p. 1-14, jul/set, 2020.
NUNES, Dierle; MARQUES, Ana L. P. C. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, v. 285, p. 421-447, nov, 2018.
OLIVA, Milena D.; SILVA, Jenifer G. da. Discriminação algorítmica nas relações de consumo. Migalhas, 2021. Disponível em: https://www.migalhas.com.br/depeso/340680/discriminacao-algoritmica-nas-relacoes-de-consumo. Acesso em: 14 out. 2021.
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução Rafael Abraham. Santo André, 1a. ed, Ed. Rua do Sabão, 2020.
ONUMULHERES. Vieses inconscientes, equidade de gênero e o mundo corporativo: lições da oficina “vieses inconscientes”. Onumulheres, 2016. Disponível em: https://www.onumulheres.org.br/wp-content/uploads/2016/04/Vieses_inconscientes_16_digital.pdf. Acesso em: 30 de ago. 2021.
ORACLE. O que é inteligência artificial - IA?. Oracle. Disponível em: https://www.oracle.com/br/artificial-intelligence/what-is-ai/, Acesso em: 07 ago. 2021.
PARLAMENTO EUROPEU. Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica. Bruxelas, 2017. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.pdf. Acesso em: 19 out. 2021.
PIGNOTTIA, Angela. Stork Population vs. Births. Pignottia, 2011. Disponível em: http://pignottia.faculty.mjc.edu/math134/classnotes/storks.pdf. Acesso em: 19 set. 2021.
PRADO, Jean. A Inteligência artificial é mais antiga do que você imagina. Tecnoblog, 2016. Disponível em: https://tecnoblog.net/195106/inteligencia-artificial-historia-dilemas/. Acesso em: 09 ago. 2021.
PINTO, Henrique Alves. A utilização da inteligência artificial no processo de tomada de decisões: por uma necessária accountability. Revista de Informação Legislativa, v. 57, n. 225, p. 43-60, 2020.
PROGRA{M}ARIA. Quais são os tipos de aplicações de Inteligência Artificial mais comuns?. Progra{m}aria, 2020. Disponível em: https://www.programaria.org/quais-sao-os-tipos-de-aplicacoes-de-inteligencia-artificial-mais-comuns/. Acesso em: 18 nov. 2021.
______. Algoritmos de Inteligência Artificial (IA) e Vieses: uma reflexão sobre ética e justiça. Progra{m}aria, 2020. Disponível em: https://www.programaria.org/algoritmos-de-inteligencia-artificial-e-vieses-uma-reflexao-sobre-etica-e-justica/. Acesso em: 10 ago. 2021.
QUARESMA, Alexandre. Inteligências artificiais e o problema da consciência, Paakat: Revista de Tecnología y Sociedad, Universidad de Guadalajara. 2019. Disponível em: http://dx.doi.org/10.32870/Pk.a9n16.349. Acesso em 09 ago. 2021.
______. Intencionalidade e Inteligência Artificial, Paakat: Revista de Tecnología y Sociedad, Universidad de Guadalajara. 2020. Disponível em: DOI: http://dx.doi.org/10.32870/Pk.a10n18.403. Acesso em 09 ago. 2021.
ROQUE, Andre; DOS SANTOS, Lucas Braz Rodrigues. Inteligência artificial na tomada de decisões judiciais: três premissas básicas. Revista Eletrônica de Direito Processual, v. 22, n. 1, 2021.
SEARLE, John R. The mystery of consciousness, New York, The New York Review of Books, 1997.
SUNSTEIN, Cass R. Algorithms, Correcting Biases. Preliminary draft for Social Research, 12.1.2018. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3300171. Acesso em: 06 ago. 2021.
TAVARES, Marcelo. Estatística Aplicada à Administração. Florianópolis, Ed. UFSC, 2007.
TOLEDO, Cláudia; ALVES, Michelle. Inteligência Artificial Aplicada ao Direito. In: I Seminário do Observatório de Práticas Sociojurídicas, jun. 2021. UFERSA. Disponível em: https://ppgd.ufersa.edu.br/wp-content/uploads/sites/168/2021/05/Lista-de-Trabalhos-Aprovados-nos-GTs-do-I-Seminario-de-Pesquisa-do-OPS.pdf. Acesso em: 10 mar. 2022.
VELLEDA, Luciano. ‘Alerta de risco de crime’ do Waze provoca debate sobre preconceito em São Paulo. RBA. 2019. Disponível em: https://www.redebrasilatual.com.br/cidadania/2019/03/alerta-de-risco-de-crime-do-waze-provoca-debate-sobre-preconceito-em-sao-paulo/ . Acesso em: 24/04/2022
VIEIRA, Leonardo M. A problemática da inteligência artificial e dos vieses algorítmicos: caso COMPAS. In: 2019 Brazilian Technology Symposium. Unicamp. Disponível em: https://www.lcv.fee.unicamp.br/images/BTSym-19/Papers/090.pdf. Acesso em: 30 ago. 2021.
WIKIPEDIA. História da inteligência artificial. Wikipedia. Disponível em: https://pt.wikipedia.org/wiki/Hist%C3%B3ria_da_intelig%C3%AAncia_artificial. Acesso em: 06 ago. 2021.