O CAPITALISMO DE VIGILÂNCIA E SEUS EFEITOS: DISCRIMINAÇÃO ALGORÍTMICA E REIFICAÇÃO HUMANA
Barra lateral de artigos
Conteúdo do artigo principal
Resumo
O presente artigo analisa o fenômeno contemporâneo de ascensão tecnológica, o capitalismo de vigilância e o uso progressivo de algoritmos no controle da vida humana, todos impactando em profundas mutações nas relações sociais e de trabalho. Demonstra que o aparato tecnológico disponível na atualidade, principalmente por meio do capitalismo de vigilância e da programação algorítmica, pode levar à instrumentalização do ser humano, colocando-o em situação de “coisificação” e consagrando um modelo segregacionista de relações sociais. Conclui que os postulados básicos da condição humana, como a dignidade e a igualdade, devem fundar os limites normativos às iniquidades daquele modelo. Empregou-se, para o estudo, o método indutivo, com pesquisa bibliográfica específica, utilizando-se os referenciais teóricos de Klaus Schwab (2016), sobre as características da quarta revolução industrial e seus reflexos na sociedade, e de Schoshana Zuboff (2021), sobre o capitalismo de vigilância.
Downloads
Detalhes do artigo
• O(s) autor(es) garante(m) que a contribuição é original e inédita e que não está em processo de avaliação em outra(s) revista(s);
• A revista não se responsabiliza pelas opiniões, ideias e conceitos emitidos nos textos, por serem de inteira responsabilidade de seu(s) autor(es);
• É reservado aos editores o direito de proceder ajustes textuais e de adequação do artigo às normas da publicação.
Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre) emhttp://opcit.eprints.org/oacitation-biblio.html
Referências
AKHGAR, Babak; GERCKE, Marco; VROCHIDIS, Stefanos; GIBSON, Helen. Dark Web Investigation. [s.l.]: Springer Nature, 2021. DOI: https://doi.org/10.1007/978-3-030-55343-2
BARRETO JUNIOR, Irineu Francisco. Proteção da Privacidade e de Dados Pessoais na Internet: O Marco Civil da rede examinado com fundamento nas teorias de Zygmunt Bauman e Manuel Castells. In: DE LUCCA, Newton; SIMÃO FILHO, Adalberto; DE LIMA; Cintia Rosa Pereira. (Org.). Direito & Internet III. São Paulo: Quartier Latin, 2015.
BARRETO JUNIOR, Irineu Francisco; NASPOLINI, Samyra Haydêe Dall Farra. Proteção de informações no mundo virtual: a LGPD e a determinação de consentimento do titular para tratamento de dados pessoais in Cadernos Adenauer xx (2019), nº3, Proteção de dados pessoais: privacidade versus avanço tecnológico. Rio de Janeiro: Fundação Konrad Adenauer, outubro 2019.
BAUMANN, Zygmunt; DONSKINS, Leonidas. Mal líquido: vivendo num mundo sem alternativas. Tradução: Carlos Alberto Medeiros – 1 ed. – Rio de Janeiro: Zahar, 2019.
BECK, Ulrich. Sociedade de risco: rumo a uma outra modernidade. Tradução de Sebastião Nascimento. São Paulo: Editora 34, 2011.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.
BOURDIEU, Pierre. A dominação masculina. Trad. Maria Helena Kaner. Ed. 2. Rio de Janeiro: Bertrand Brasil, 2002.
BOURDIEU, Pierre. Outline of a Theory of Practice. New York: Cambridge University Press, 1977. DOI: https://doi.org/10.1017/CBO9780511812507
BRASIL. Constituição da República Federativa do Brasil de 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 26 de nov. de 2021.
BRASIL. Decreto nº 10.932, de 10 de janeiro de 2022. Promulga a Convenção Interamericana contra o Racismo, a Discriminação Racial e Formas Correlatas de Intolerância, firmado pela República Federativa do Brasil, na Guatemala, em 5 de junho de 2013. Disponível em: http://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2022/Decreto/D10932.htm. Acesso em: 13 jan. 2022.
BRASIL. Decreto nº 678, de 6 de novembro de 1992. Promulga a Convenção Americana sobre Direitos Humanos (Pacto de São José da Costa Rica), de 22 de novembro de 1969. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto/d0678.htm. Acesso em: 12 out. 2021.
BRASIL. Lei N° 10.406, de 10 de janeiro de 2002. Institui o Código Civil. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 26 de nov. de 2021.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 23 out. 2021.
BRASIL. Projeto de Lei da Câmara n° 27, de 2018. Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=7987445&ts=1633436901736&disposition=inline. Acesso em: 17 de nov. de 2021.
BROUSSARD, Meredith. Artificial unintelligence: How computers misunderstand the world. mit Press, 2018. DOI: https://doi.org/10.7551/mitpress/11022.001.0001
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In: Conference on fairness, accountability and transparency. PMLR, 2018. p. 77-91. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em 13 jan. 2022.
CARNEIRO, Sueli. Racismo, sexismo e desigualdade no Brasil. São Paulo: Selo Negro, 2011.
CASTELLS, Manoel. Globalización, tecnología, trabajo, empleo y empresa. 2019. Disponível em: http://biblioteca.udgvirtual.udg.mx:8080/jspui/bitstream/123456789/2781/1/Globalizaci%C3%B3n%2C%20tecnolog%C3%ADa%2C%20trabajo%2C%20empleo%20y%20empresa.pdf. Acesso em 28 jul. 2022.
CASTELLS, Manuel. A Era da Informação: Economia, Sociedade e Cultura Vol. 1 - A Sociedade em Rede. São Paulo: Paz e Terra, 1999.
CASTELLS, Manuel. A sociedade em rede. São Paulo: Paz e Terra, 2000.
CHAUÍ, Marilena. O que é ideologia. São Paulo: Brasiliense, 1984.
CHUNG, Anna. How Automated Tools Discriminate Against Black Language. 2019. Disponível em: https://civic.mit.edu/index.html%3Fp=2402.html. Acesso em: 13 jan. 2022.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Cuadernillo de jurisprudencia de la corte interamericana de derechos humanos nº 14: igualdad y no discriminación. 2019. Disponível em: https://www.corteidh.or.cr/sitios/libros/todos/docs/cuadernillo14.pdf. Acesso em: 23 out. 2021.
DANIELS, Jessie. Cyber racism: White supremacy online and the new attack on civil rights. Rowman e Littlefield Publishers, 2009.
DRUCKER, Peter Ferdinand. Sociedade Pós-Capitalista. São Paulo: Pioneira, 1995.
ECHARRI, Miquel. 150 demissões em um segundo: os algoritmos que decidem quem deve ser mandado embora. Disponível em: https://brasil.elpais.com/tecnologia/2021-10-10/150-demissoes-em-um-segundo-assim-funcionam-os-algoritmos-que-decidem-quem-deve-ser-mandado-embora.html?ssm=whatsapp. Acesso em: 22 out. 2021.
EVELLE, Monique. Desabafo Social interfere no mecanismo de busca do maior banco de imagem do mundo. 2017. Disponível em: http://desabafosocial.com.br/blog/2017/06/12/desabafo-social-interfere-no-mecanismo-de-busca-do-maior-banco-de-imagem-do-mundo/. Acesso em: 13 jan. 2022.
FELICIANO, Guilherme Guimarães. A proteção de dados pessoais nas relações de trabalho: por uma abordagem principiológica e humanista (visão crítico-construtiva). Tese (concurso de titularidade). São Paulo: Universidade de São Paulo, 2022.
FELICIANO, Guilherme Guimarães. Curso crítico de Direito do Trabalho. São Paulo: Saraiva, 2012.
FELICIANO, Guilherme Guimarães; SILVA, Filipe Piazzi Mariano da; TOSO, Lilian Fernanda. Estado social e indústria 4.0: A ordem constitucional econômica e o direito ao trabalho no século XXI. In: CARVALHO, Augusto César Leite de; ASSUNÇÃO, Any Ávila (org.). O trabalho contemporâneo e suas dimensões de vulnerabilidade. Brasília: Venturoli, 2022.
FOUCAULT, Michel. Society must be defended: Lectures at the Collège de France, 1975-76. London: Penguin, 2003.
FRAZÃO, Ana. Julgamento Algorítmico: A necessidade de asseguramos as preocupações éticas e o devido processo legal. Giovanni. Imagens da juventude na era moderna. In: COLOMBO, Cristiano; ENGELMANN, Wilson; FALEIROS JÚNIOR, José Luiz De Moura. (coor.). Tutela Jurídica do Corpo Eletrônico. Indaiatuba: Foco, 2022. p. 579-596.
GALVÃO, Alexander Patêz. A informação como commodity: mensurando o setor de informações em uma nova economia. Ciência da Informação, v. 28, n. 1, 1999. DOI: 10.18225/ci.inf..v28i1.861. Acesso em: 16 ago. 2022. DOI: https://doi.org/10.1590/S0100-19651999000100009
GOBBO, Beatrice. PILIPETS, Elena. AZHAR, Hamdan. TAKAMITSU, Helen. OMENA, Janna Joceli. OLIVEIRA, Taís. MINTZ, André. SILVA, Tarcizio. Interrogating Vision APIs. 2019. Disponível em: https://smart.inovamedialab.org/smart-2019/project-reports/interrogating-vision-apis/. Acesso em 13 jan. 2022.
HALÉVY, Marc. A era do conhecimento: princípios e reflexões sobre a revolução noética no século XXI. São Paulo: Editora Unesp, 2010.
HARARI, Yuval Noah. Sapiens: Uma breve história da humanidade. São Paulo: Companhia das Letras, 2020.
JOYCE, Kelly; SMITH-DOERR, Laurel; ALEGRIA, Sharla; BELL, Susan; CRUZ, Taylor; HOFFMAN, Steve G; NOBLE, Safiya Umoja; SHESTAKOFSKY, Benjamin. Toward a Sociology of Artificial Intelligence: A Call for Research on Inequalities and Structural Change. Socius: Sociological Research for a Dynamic World, 2021. DOI 10.1177/2378023121999581. Disponível em: https://search.ebscohost.com/login.aspx?direct=true&db=edsbas&AN=edsbas.CBF3A8EB&lang=pt-br&site=eds-live. Acesso em: 14 jan. 2022. DOI: https://doi.org/10.1177/2378023121999581
KANT, Immanuel. A metafísica dos costumes. Tradução Edson Bini. São Paulo: Edipro, 2008.
LÉVY, Pierre. Cibercultura. São Paulo: Ed. 34,1999.
MAYER-SCHÖNBERGER, Viktor; CUKIER, Kenneth. Big data: uma revolução que transformará a forma como vivemos, trabalhamos e pensamos. Boston: Houghton Mifflin Harcourt, 2013.
MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação Algorítmica conceito, fundamento legal e tipologia. Direito Público, v. 16, n. 90, 2019.
MOREIRA, Adilson. Ciclo de Debates sobre Direito Antidiscriminatório - PPGD/UFRJ. 2021. Disponível em: https://www.youtube.com/watch?v=0W_TtKHi_QA&t=3s. Acesso em: 23 out. 2021.
MOROZOV, Evgeny. Big Tech: a ascensão dos dados e a morte da política. Traduzido por Claudio Marcondes. São Paulo: Ubu Editora, 2018.
NAKAMURA, Lisa. Digitizing race: Visual cultures of the Internet. Vol. 23. University of Minnesota Press, 2008. Disponível em: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.458.4370&rep=rep1&type=pdf. Acesso em: 14 jan. 2022.
NOBLE, Safiya Umoja. Google search: Hyper-visibility as a means of rendering black women and girls invisible. InVisible Culture, n. 19, 2013. DOI: https://doi.org/10.47761/494a02f6.50883fff
NOBLE, Safiya Umoja; ROBERTS, S. T. Elites tecnológicas, meritocracia e mitos pós raciais no Vale do Silício. Revista Fronteiras, 2020. Disponível em: https://search.ebscohost.com/login.aspx?direct=true&db=asn&AN=143587383&lang=pt-br&site=eds-live. Acesso em: 14 jan. 2022. DOI: https://doi.org/10.4013/fem.2020.221.04
NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, v. 285/2018, p. 421-447, nov. 2018.
OBERMEYER, Ziad; POWERS, Brian; VOGELI, Christine; MULLAINATHAN, Sendhil. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, n. 6464, p. 447-453, 2019. DOI: https://doi.org/10.1126/science.aax2342
O'NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown Publishers, 2016.
OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Santa Mônica: Rand Corporation, 2017. DOI: https://doi.org/10.7249/RR1744
PARANÁ. Racismo Institucional. Disponível em: https://www.youtube.com/watch?v=PbCZzEaCMOI. Acesso em: 23 out. 2021.
PARANÁ. Racismo Institucional. Disponível em: https://www.youtube.com/watch?v=PbCZzEaCMOI. Acesso em: 23 out. 2021.
RIFKIN, Jeremy. A Terceira Revolução Industrial: Como o poder lateral está transformando a energia, a economia e o mundo. São Paulo: M. Books do Brasil, 2012.
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Rio de Janeiro: Renovar, 2008.
RUSSOMANO, Mozart Victor. Curso de Direito do Trabalho. 6ª ed. Curitiba: Juruá, 1997.
SCHAFF, Adam. A sociedade informática: as consequências sociais da segunda revolução industrial. São Paulo: Unesp Brasiliense, 1995.
SCHWAB, Klaus. A Quarta revolução industrial. São Paulo: Edipro, 2016.
SEN, Amartya. Inequality reexamined. Nova York: Russel Sage, 1992.
SILVA, José Afonso da. A dignidade da pessoa humana com valor supremo da democracia. Revista de direito administrativo, v. 212, p. 89-94, 1998. DOI: https://doi.org/10.12660/rda.v212.1998.47169
SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. In: VI simpósio internacional lavits 2019. Salvador. Anais assimetrias e (in)visibilidade: Vigilância, gênero e raça. Salvador: Rede LAVITS, 2019.
SODRÉ, M. Antropológica do espelho. Petrópolis: Vozes, 2002.
SOUZA, Devanildo de Amorim; TERZIDIS, Cristina Anita Schumann Lereno; WALDMAN, Ricardo Libel. O aprimoramento da tecnologia e seu potencial de fomentar avanços e retrocessos sociais na sociedade da informação. Revista de Direito, Governança e Novas Tecnologias, v. 7, 2021. p. 40-56. Disponível em: https://indexlaw.org/index.php/revistadgnt/article/view/7862. Acesso em 28 set. 2021. DOI: https://doi.org/10.26668/IndexLawJournals/2526-0049/2021.v7i1.7862
SUPPORT THE GUARDIAN. FaceApp apologises for 'racist' filter that lightens users' skintone. 2017. Disponível em: https://www.theguardian.com/technology/2017/apr/25/faceapp-apologises-for-racist-filter-which-lightens-users-skintone. Acesso em: 13 jan. 2022.
SUPPORT THE GUARDIAN. Google says sorry for racist auto-tag in photo app. 2015. Disponível em: https://www.theguardian.com/technology/2015/jul/01/google-sorry-racist-auto-tag-photo-app. Acesso em: 13 jan. 2022.
THECONVERSATION. Emotion-reading tech fails the racial bias test. 2019. Disponível em: https://theconversation.com/emotion-reading-tech-fails-the-racial-bias-test-108404. Acesso em: 13 jan. 2022.
TRIVINHO, Eugênio. A explosão do cibermundo: velocidade, comunicação e (trans)política na civilização tecnológica atual. Organizador Eugênio Trivinho. São Paulo: Annablume, 2017.
VINCENT, James. Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day. 2016. Disponível em: https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist. Acesso em: 13 jan. 2022.
VIRILIO, Paul. Velocidade e política. Tradução Celso Mauro Paciornik. São Paulo: Estação Liberdade, 1996.
WONG, Karen Li Xan; DOBSON, Amy Shields. We’re just data: Exploring China’s social credit system in relation to digital platform ratings cultures in Westernised democracies. Global Media and China, 2019. DOI: https://doi.org/10.1177/2059436419856090
ZHANG, Chenchen. Governing (through) trustworthiness: technologies of power and subjectification in China’s Social Credit System. Critical Asian Studies, v. 52, n. 4, 2020. DOI: https://doi.org/10.1080/14672715.2020.1822194
ZUBOFF, Shoshana. A era do capitalismo de vigilância. Tradução George Schlesinger. Rio de janeiro: Editora Intrinseca, 2021.
ZUBOFF, Shoshana. Big Other: capitalismo de vigilância e perspectivas para uma civilização da informação. 2015. In Tecnopolíticas da vigilância: perspectivas da margem / organização Fernanda Bruno [et al]; tradução Heloisa Cardoso Mourão [et al]. – 1ª ed. – São Paulo: Boitempo, 2018.