O DIREITO À REVISÃO DAS DECISÕES AUTOMATIZADAS DE RECONHECIMENTO FACIAL E O PRINCÍPIO ANTROPOCÊNTRICO

Contenu principal de l'article

Caio Sperandeo de Macedo
http://orcid.org/0000-0002-3812-8806

Résumé

Analisar a proteção de dados pessoais, inclusive nos meios digitais erigido a condição de direito fundamental na Constituição da República Federativa do Brasil de 1988 e minudenciado pela Lei nº13.709/2018. Reconhecer as externalidades da economia digital e que o uso das tecnologias de inteligência artificial(IA) para captura de dados biométricos para reconhecimento automatizado de características humanas para fins de segurança pública e persecução penal em espaços públicos implicam em restrições às liberdades, à autodeterminação informacional e à privacidade do cidadão em um cenário de assimetria informacional. A complexidade do tema referente a proteção de dados pessoais sensíveis e os elevados riscos de utilização destas novas tecnologias, que apresentam reconhecidos vieses discriminatórios, exige além de legislação que especifique as hipóteses de sua aplicação, estudos de impacto prévio e salvaguardas para a defesa de direitos, como a inafastável possibilidade de revisão humana das decisões automatizadas enquanto postulado ético ligado à dignidade humana. A pesquisa fez uso do método dedutivo e se embasou na revisão bibliográfica de doutrina nacional e estrangeira, além da análise comparativa da legislação nacional com as diretrizes da legislação europeia de proteção de dados – Regulamento (UE) n.º2016/679.       

Téléchargements

Les données relatives au téléchargement ne sont pas encore disponibles.

Details de l'article

Comment citer
DE MACEDO, Caio Sperandeo. O DIREITO À REVISÃO DAS DECISÕES AUTOMATIZADAS DE RECONHECIMENTO FACIAL E O PRINCÍPIO ANTROPOCÊNTRICO. Revista de Direito Brasileira, Florianopolis, Brasil, v. 36, n. 13, p. 226–246, 2024. DOI: 10.26668/IndexLawJournals/2358-1352/2023.v36i13.8569. Disponível em: https://indexlaw.org/index.php/rdb/article/view/8569. Acesso em: 19 nov. 2024.
Rubrique
PARTE GERAL
Biographie de l'auteur

Caio Sperandeo de Macedo, UniFMU/SP

Doutorado em Filosofia do Direito pela Pontifícia Universidade Católica de São Paulo, PUC/SP (2014), Brasil, Mestrado em Direito do Estado pela Pontifícia Universidade Católica de São Paulo (2005) Professor Permanente da Pós-graduação do Programa de Mestrado "strictu sensu" em Direito da Sociedade da Informação, do Centro Universitário das Faculdades Metropolitanas Unidas-UniFMU/SP, 

Références

ANSA BRASIL Agencia italiana de notícias. Disponível em: https://epocanegocios.globo.com/Mundo/noticia/2022/01/mafioso-italiano-foragido-e-preso-na-espanha-apos-aparecer-no-google-maps.html. Acesso em: 5 ja.2022.

BRANCO, Paulo Gustavo Gonet. Cláusulas pétreas. Enciclopédia jurídica da PUC-SP. Celso Fernandes Campilongo, Alvaro de Azevedo Gonzaga e André Luiz Freire (coords.). Tomo: Direito Administrativo e Constitucional. Vidal Serrano Nunes Jr., Maurício Zockun, Carolina Zancaner Zockun, André Luiz Freire (coord. de tomo). 1. ed. São Paulo: Pontifícia Universidade Católica de São Paulo, 2017. Disponível em: https://enciclopediajuridica.pucsp.br/verbete/21/edicao-1/clausulas-petreas. Acesso: 16.Fev.2022.

BRASIL. LEI Nº 13.709, DE 14 DE AGOSTO DE 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em Fev. 2022.

BRASIL. Constituição da República Federativa do Brasil de 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em 10 Fev. 2022.

BRASIL. Ministério da Justiça e Segurança Pública. Polícia Federal implementa nova Solução Automatizada de Identificação Biométrica. 2021. Disponível em: https://www.gov.br/pf/ptbr/assuntos/noticias/2021/07/policia-federal-implementa-nova-solucao-automatizada-deidentificacao-biometrica. Acesso em: 10 mai. 2022.

BRASIL. Ministério da Ciência, Tecnologia e Inovações. Estratégia Brasileira de Inteligência Artificial -EBIA. Junho 2021. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/arquivosinteligenciaartificial/ia_estrategia_documento_referencia_4-979_2021.pdf. Acesso em: 13 mai. 2022.

CÂMARA DOS DEPUTADOS. Ordem do dia. Disponível em: https://www.camara.leg.br/internet/ordemdodia/integras/2082600.htm. Acesso:13 mai. 2022.

CAMARGO, Solano de. As sanções da LGPD e o Inferno de Dante. Revista do Advogado, nº144, nov. 2019.

CAVOUKIAN, Ann. Privacy by Design - The 7 Foundational Principles. Implementation and Mapping of Fair Information Practices. 2010. Disponível: https://iapp.org/resources/article/privacy-by-design-the-7-foundational-principles/; Acesso: 17 mai. 2022.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais. Rio de Janeiro: Renovar, 2006.

DECRETO-LEI Nº 4.657, DE 4 DE SETEMBRO DE 1942. Disponivel: http://www.planalto.gov.br/ccivil_03/decreto-lei/del4657compilado.htm. Acesso:17 mai 2020.

CONSELHO EUROPEU DE PROTEÇÃO DE DADOS (EDPB). EDPB e EDPS pedem a proibição do uso de IA para reconhecimento automatizado de recursos humanos em espaços acessíveis ao público e alguns outros usos de IA que podem levar a discriminação injusta. Disponível em: https://edpb.europa.eu/news/news/2021/edpb-edps-call-ban-use-ai-automated-recognition-human-features-publicly-accessible_en. Acesso em: 11 mai.2022.

DAMASCENO, Victor. FERNANDES, Samuel. Sobre críticas por viés racial reconhecimento facial chega a 20 estados. Folha de São Paulo. https://www1.folha.uol.com.br/cotidiano/2021/07/sob-criticas-por-vies-racial-reconhecimento-facialchega-a-20-estados.shtml. Acesso em: 11 mai. 2022.

GLOBO.COM,-G1 Rio. Sistema de reconhecimento facial da PM do RJ falha, e mulher é detida por engano. Publicado em 11 de julho de 2019. Disponível em: https://g1.globo.com/rj/rio-de-janeiro/noticia/2019/07/11/sistema-de-reconhecimento-facial-da-pm-do-rj-falha-e-mulher-e-detida-por-engano.ghtml. Acesso em: 14 mai. 2022.

GOMES, Maria Cecilia Oliveira. Relatório de impacto à proteção de dados pessoais. Revista do Advogado, nº144, nov. 2019.

JOÃO, Belmiro do Nascimento. SOUZA, João Crisomar e SERRALVO, Antonio Francisco Lobo. Revisão sistemática de cidades inteligentes e internet das coisas como tópico de pesquisa. Cad. EBAPE.BR 17 (4) • Oct-Dec 2019.

LEE-MORRISON. Lila. Portraits of Automated Facial Recognition: On Machinic Ways of Seeing the Face. Transcript Verlag, 2019. Ebook. Disponível em: https://www.transcriptverlag.de/978-3-8376-4846-1/portraits-of-automated-facial-recognition/. Acesso: 18 jan. 2022.

LOUREIRO, Rodrigo. Impreciso com negros, reconhecimento facial da Amazon é suspenso. Exame, publicada 11 de junho de 2020. Disponível em https://exame.com/tecnologia/impreciso-com-negros-sistema-de-reconhecimento-facial-da-amazon-e-suspenso/. Acesso em:15 mai. 2022.

LUÑO, Antonio-Henrique Perez. Perspectivas e Tendências Atuais do Estado Constitucional. Trad. José Luiz de Morais e Valéria Ribas do Nascimento. Porto Alegre, Ed. Livraria do Advogado, 2012.

LUÑO, Antonio-Henrique Perez. Generaciones de derechos humanos. In: Revista del Centro de Estudos Constitucionales, nº10, Sept, 1991.

MARCHINHACKI, Romualdo Paulo. Direitos Fundamentais: Aspectos Gerais e Históricos. Revista da Unifebe (Online) 2012; 11 (dez):166-179. Disponível em: https://d1wqtxts1xzle7.cloudfront.net/42974490/artigo017-with-cover-page-v2.pdf?Expires=1645447449&Signature=Yv1je47vSK6bwsR2zVRYnicPrXoVx4ySQ7HUFOT49pn5gMIr2YUM69YSxB4AgYAummUgL4cLVEWNwZg1cpaDo3yQnOyTsdzjHtzRVPyfxQEY6R-iWGf9~QUP7eu7yY3M5DVz3UFk8mdYZ~gDUwGKm4lthb2-vX76zczZm1GLlvhBxOf~FVOzQHnZWeqtVHPV668Il6QHl8jBtnKpogZbSpKWlAwJXvmizawW563u1hkIxVBEuHlPXnKMqFx5TSoFfXEoVOgIJQRoUV6QalKBA6R2lXBrIFfFLzlWOHEon3eX8amsOK-8BEb0ddPq7nJVDsQDhUhBzLfxPEiSoqgs-g__&Key-Pair-Id=APKAJLOHF5GGSLRBV4ZA. Acesso: 21. Fev. 2022.

MARQUES, Ana Luiza Pinto Coelho. NUNES, Dierle. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo | vol. 285/2018 | p. 421 - 447 | Nov / 2018. Disponível: https://www.academia.edu/38112588/Intelig%C3%AAncia_artificial_e_direito_processual_vieses_algor%C3%ADtmicos_e_os_ricos_de_atribui%C3%A7%C3%A3o_de_fun%C3%A7%C3%A3o_decis%C3%B3ria_%C3%A0s_m%C3%A1quinas?from=cover_page. Acesso: 14 mai. 2022.

MINISTÉRIO PÚLBICO DO DISTRITO FEDERAL E TERRITÓRIOS. Foragidos da Justiça. Disponível em: https://www.mpdft.mp.br/portal/index.php/conhecampdft-menu/programas-e-projetos-menu/foragidos-da-justica. Acesso em 11 mai.2022

MULHOLLAND, Caitlin. Inteligência Artificial e Regulação: Breves Apontamentos sobre equidade, responsabilidade e transparência. Cultura, educação e tecnologias em debate/Org. de Fernando Almeida; Gustavo Torrezan; Luciana Lima; Rosana Elisa Catelli; Realização PUC-SP; Cetic.br; NIC.br; CGI.br; Serviço Social do Comércio.– São Paulo: Sesc São Paulo, 2019. – 58 p. il. Disponível: https://webcache.googleusercontent.com/search?q=cache:ZzSpzr2g6U4J:https://centrodepesquisaeformacao.sescsp.org.br/uploads/BibliotecaTable/9c7154528b820891e2a3c20a3a49bca9/339/16051176751843517221.pdf+&cd=2&hl=pt-BR&ct=clnk&gl=br. Acesso: 16 mai. 2022.

O’NEIL, Cathy. Weapons of math destruction: How Big Data increases inequality democracy. New York. Crown Publisher, 2016.

ORNELAS MONTEIRO, G. (2021). Instrumentos de reconhecimento facial e os contornos da lei geral de proteção de dados ante a privacidade nas cidades (in)inteligentes. Revista De Direito E Atualidades, 1(1). Disponível em: https://www.portaldeperiodicos.idp.edu.br/rda/article/view/5220. Acesso em: 18 mai. 2022.

PARLAMENTO EUROPEU E DO CONSELHO. Regulamento Geral de Proteção de Dados EU - 2016/679. Disponível: https://dsgvo-gesetz.de/art-22-dsgvo/. Acesso: 16 mai. 2022.

PINTO, Henrique Alves. A utilização da inteligência artificial no processo de tomada de decisões - Por uma necessária accountability. RIL Brasília a. 57 n. 225 p. 43-60 jan./mar. 2020. Disponível em: https://www12.senado.leg.br/ril/edicoes/57/225/ril_v57_n225_p43.pdf. Acesso: 10. Mai. 2022.

POLLO, Luiza. Cidade-berço do MIT bane reconhecimento facial; decisão tem peso simbólico. TAB-UOL, publicado em 16 de Janeiro de 2020. Disponível em; https://tab.uol.com.br/noticias/redacao/2020/01/16/cambridge-bane-reconhecimento-facial-entenda-por-que-temos-de-pensar-nisso.htm. Acesso em: 18 mai. 2022.

PUGLIESE, Joseph. Biometrics: Bodies, Technologies, Biopolitics. New York: Routledge, 2010.

PURTOVA, Nadezhda.The law of everything. Broad concept of personal data and future of EU data protection law. Law, Innovation and Technology Volume 10, 2018.Disponível: https://www.tandfonline.com/doi/full/10.1080/17579961.2018.1452176. Acesso: 16 mai. 2022.

QUIANG, Yang. A quarta revolução. Correio da UNESCO. Muitas vozes, um mundo. E-ISSN-2179-8818. Disponível em:https://pt.unesco.org/courier/2018-3/quarta-revolucao. Acesso em 15. Fev. 2022.

REIS, Nazareno César Moreira. Decisões automatizadas, revisão humana e direito à proteção de dados: uma análise à luz da Lei Geral de Proteção de Dados Pessoais. 2021. 157 f. Dissertação (Mestrado em Direito Constitucional) Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa, Brasília, 2021. Disponível em: https://repositorio.idp.edu.br//handle/123456789/3357. Acesso em: 7 jan. 2022.

Resolução do Parlamento Europeu, de 6 de outubro de 2021, a inteligência artificial no direito penal e a sua utilização pelas autoridades policiais e judiciárias em casos penais. Disponível: https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_PT.html. Acesso. 17 mai. 2022.

ROLFINI, Fabiana. Boston proíbe uso de reconhecimento facial por órgãos públicos. Publicado em 25 junho de 2020, em Olhar Digital. Disponível em: https://olhardigital.com.br/2020/06/25/noticias/boston-proibe-uso-de-reconhecimento-facial-por-orgaos-publicos/. Acesso em 18 mai. 2022.

SCHAWAB, Klaus. A Quarta Revolução Industrial. Tradução: Daniel Moreira Miranda. 2016. Ed. Jair Lot Vieira e Maira Lot Vieira Micales.

SENADO FEDERAL. Projeto de Lei n° 5051, de 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/138790. Acesso: 13 mai. 2022.

SMICHOWSKI, Bruno Carballa. ENGELS, Barbara. HAUCAP, Justus. OLK, Christopher. SPIEKERMANN, Markus. GRAFENSTEIN, Max von. WERNICK, Alina. Data-Driven Economy: Challenges and Opportunities. Volume 54, 2019 · Number 4 · p. 200. Intereconomics Review of European Economic Policy. Disponível em: https://www.intereconomics.eu/contents/year/2019/number/4/article/data-driven-economy-challenges-and-opportunities.html. Acesso em 15.fev.2022.

SUPREMO TRIBUNAL FEDERAL- STF, MS 24.268/MG, rel. Min. Ellen Gracie, j. 17.09.2004. Disponível: https://redir.stf.jus.br/paginadorpub/paginador.jsp?docTP=AC&docID=86111. Acesso: 13 mai. 2022.

VIDOLIN, Isadora Leardini. Princípio da Precaução: Do Direito Ambiental à Proteção de Dados e Inteligência Artificial, Revista Percurso, v. 1, n. 38, 2021. Disponível: http://revista.unicuritiba.edu.br/index.php/percurso/article/view/5429. Acesso: 20. Fev. 2022.

WOLKART, Erik Navarro. Análise econômica do processo civil: como a economia, o direito e a psicologia podem vencer a tragédia da justiça. São Paulo: Revista dos Tribunais, 2019. Apresentada originalmente como tese de doutorado, Universidade do Estado do Rio de Janeiro, 2018.

ZUBOFF, Shoshana, The Age of Surveillance Capitalism: the fight for a human future at the new frontier of power. 2019, Nova York, Public Affairs.