ALGORITMI E NUOVE FORME DI DISCRIMINAZIONE: UNO SGUARDO AL DIRITTO EUROPEO
Barra lateral de artigos
Conteúdo do artigo principal
Resumo
Algorithmic discrimination is one of the risks of the more and more frequent use of artificial intelligence systems. The paper criticizes the neutrality of algorithms, demonstrating that, in some cases, the digital revolution we are witnessing amplifies forms of discrimination already present in society and in the market and create new ones. Faced with such a complicated scenario, a balanced approach is proposed between mistrust and too much emphasis on artificial intelligence applications.
In particular, it is advised that we not to give up the transparency and control of algorithms, to prevent them from being allowed to do what men are not allowed to, becoming a shield for the responsibility of some people and a tool to reduce other people to mere “ cases” to be classified, normalized or excluded.
Downloads
Detalhes do artigo
• O(s) autor(es) garante(m) que a contribuição é original e inédita e que não está em processo de avaliação em outra(s) revista(s);
• A revista não se responsabiliza pelas opiniões, ideias e conceitos emitidos nos textos, por serem de inteira responsabilidade de seu(s) autor(es);
• É reservado aos editores o direito de proceder ajustes textuais e de adequação do artigo às normas da publicação.
Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre) emhttp://opcit.eprints.org/oacitation-biblio.html
Referências
ALPA Guido, Tecnologie e diritto privato. Riv. it. scienze giuridiche, 2018, p. 205-314.
BAROCAS Solon, SELBS Andrew, Big Data’s Disparate Impact. California Law Review, 2016, p. 671-732.
BATTELLI Ettore, La decisión robótica: algoritmos,
interpretación y justicia predictiva. Revista de Derecho Privado, 2020, p. 45-86.
BORGESIUS Frederik Zuiderveen, Discrimination, Artificial Intelligence and Algorithmic Decision-Making, Council of Europe, Strasbourg, 2018, p. 16. Disponibile in https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73.
BORGESIUS Frederik Zuiderveen, Price Discrimination, Algorithmic Decision-Making, and European Non-Discrimination Law. European Business Law Review, 2020, p. 401 – 422.
CALISKAN Aylin, BRYSON Joanna, NARAYANAN Arvind, Semantics derived automatically from language corpora contain human-like biases. Science, 2017, p. 183-186.
CAMPOLO Alexander, CRAWFORD Kate, Enchanted Determinism: Power without Responsibility in Artificial Intelligence. Engaging Science, Technology, and Society, 2020, p. 1- 19.
CAPORALE Gaetano, Corso di statistica teorico-pratica, Stamperia e Cartiere del Fibreno, Napoli, 1976.
CARAPEZZA FIGLIA Gabriele, El principio de no discriminación en elderecho contractual ítalo-europeo. Actualidad Jurídica Iberoamericana, 2019, p. 282-315.
CLARIZIA RenatO, Mercato, persona, intelligenza artificiale, quale fututo?. Juscivile, 2020, p. 687- 723.
CRAWFORD Kate, Artificial Intelligence’s. White Guy Problem. Disponibile in www.cs.dartmouth.edu/~ccpalmer/teaching/cs89/Resources/Papers/AIs%20White%20Guy%20Problem%20
DE GIORGI Raffaele, LUHMANN Niklas, Teoria della società, FrancoAngeli, Milano, 2008.
DE GIORGI Raffaele, Temi di filosofia del diritto, II, Pensa, Lecce, 2015.
FEMIA Pasquale, Interessi e conflitti culturali nell’autonomia privata e nella responsabilità civile, Napoli, 1996.
FINOCCHIARO Gisella, Intelligenza Artificiale e protezione dei dati personali. Giurisprudenza Italiana, 2019, pp. 1670-1677.
FLORIDI Luciano, Translating Principles into Practices of Digital Ethics: Five Risks of Being Unethica. Philos. Technol, 2019, p. 185–193.
FRANCESCA Manolita, Inclusione finanziaria e modelli discriminatori. Note introduttive sugli epigoni della discriminazione razziale. In: FRANCESCA Manolita, MIGNONE Carlo (Ed.), Finanza di impatto sociale. Strumenti, interessi, scenari attuativi, Napoli, Esi, 2020.
FREIRE DE CARVALHO CALABRICH Bruno, Discriminação algorítmica e transparência na lei geral de proteção de dados pessoais. Algorithmic discrimination and transparency in Brazilian Personal Data Protection Law. Revista de Direito e as Novas Tecnologias, 2020, p.1-18.
FRY Hannah, Don’t Believe the Algorithm, The Wall Street Journal, Sept. 5, 2018. Disponibile in https://www.wsj.com/articles/dontbelieve-the-algorithm-1536157620.
GENTILI Aurelio, Il principio di non discriminazione nei rapporti civili. Riv. crit. dir. priv., 2009, p. 207-231.
GILMAN Michele, Poverty Lawgorithms: A Poverty Lawyer’s Guide to Fighting Automated Decision-Making Harms on Low-Income Communities. Data & Society, 2020, p. 1-63. Disponibile in https://ssrn.com/abstract=3699650.
GINI Corrado, I pericoli della Statistica, 1939. Disponibile in http://blog.petiteplaisance.it/wp-content/uploads/2018/01/04-Corrado-Gini-I-pericoli-della-statistica_08.pdf.
GIUNTI Marco, GIUNTINI Roberto, Macchine, calcolo e pensiero. In: MANCINI Stefano (ED). Sguardi sulla scienza nel giardino dei pensieri, Mimesis Edizioni, Milano, p. 39-67.
GRISI Giuseppe, Le magnifiche sorti progressive del turismo 5.0. Europa diritto privato, 2020, p. 475-485.
HERNU Rémy, Le principe d'égalité et le principe de non-discrimination dans la jurisprudence de la CJUE. Disponibile in www.conseil-constitutionnel.fr/publications/titre-vii/le-principe-d-egalite-et-le-principe-de-non-discrimination-dans-la-jurisprudence-de-la-cjue.
JANNARELLI Antonio, La regolazione privatistica delle relazioni di mercato nell’attuale contesto. Riv. crit. dir. priv., 2020, p. 297- 312.
LANNI Sabrina, Dataquake: intelligenza artificiale e discriminazione del consumatore. Nuovo diritto civile, 2020, p. 97-123.
MALGIERI Gianclausio, COMANDÉ Giovanni, Why a Right to Legibility of Automated Decision-making Exists in the General Data Protection Regulation. International Data Privacy Law, 2017, p. 243-265.
MÂNDRESCU Daniel (ED.), EU Competition Law and the Digital Economy: Protecting Free and Fair Competition in an Age of Technological (R)evolution: The XXIX FIDE Congress in The Hague, 2020 Congress Publications, Chicago, 2020.
MARKOU Christiana, Consumer Protection, Automated Shopping Platforms and EU Law, Routledge, London, 2019.
MATTARELLA Giorgio, Big Data e accesso al credito degli immigrati: discriminazioni algoritmiche e tutela del consumatore. Giur. comm., 2020, p. 696- 716.
MUIR Elise, The Transformative Function of EU Equality Law. European Review of Private Law, 2013, p. 1231-1253.
NAVARRETTA Emanuela, Principio di eguaglianza e diritto civile. Questione Giustizia, 2020, p. 23-27.
PAJNO Alessandro, BASSINI Marco, DE GREGORIO Giovanni, MACCHIA MARCO, PATTI Francesco Paolo, POLLICINO Oreste, QUATTROCOLO Serena, SIMEOLI Dario, SIRENA Pietro. AI: profili giuridici. Intelligenza Artificiale: criticità emergenti e sfide per il giurista. Rivista di BioDiritto, 2019, p. 1-35.
PALMIERI Alessando , Profili giuridici delle piattaforme digitali. La tutela degli utenti commerciali e dei titolari di siti web aziendali, Giappichelli, Torino, 2019.
PARDOLESI Roberto, DAVOLA Antonio, Algorithmic legal decision making: la fine del mondo (del diritto) o il paese delle meraviglie?. Questione Giustizia, 2020, p. 104-111.
PELLECCHIA Enza, Profilazione e decisioni automatizzate al tempo della black box society: qualità dei dati e leggibilità dell’algoritmo nella cornice della responsible research and innovation. Nuove leg. civ. comm., 2018, p. 1209-1235.
PERLINGIERI Pietro, «Controllo» e «conformazione» degli atti di autonomia negoziale. In: CATERINI Enrico, DI NELLA Luca, FLAMINI Antonio, MEZZASOMA Lorenzo, POLIDORI Stefano (ED.), Scritto in onore di Vito Rizzo, II, Napoli, 2017, p. 1619-1640.
PORRINI Donatella, Asimmetrie informative e concorrenzialità nel mercato assicurativo: che cosa cambia con i Big Data?. Concorrenza e Mercato, 2016, p. 139-151.
PRETELLI Ilaria, Conflict of Laws in the Maze of Digital Platforms. Le droit international privé dans le labyrinthe des plateformes digitales, Schulthess, Zurich, 2019, p. 81-106.
RESTA Giorgio, Governare l’innovazione tecnologica: decisioni algoritmiche, diritti digitali e principio di uguaglianza. Politica del diritto, 2019, p. 199- 236.
RODOTÀ Stefano, Tecnopolitica. La democrazia e le nuove tecnologie della comunicazione, Laterza, Roma-Bari, 1997.
SARTOR Giovanni, Artificial Intelligence: Challenges for EU Citizens and Consumers. Briefing. Requested by the IMCO committee, 2019, p. 1-7. Disponibile in https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/631043/IPOL_BRI(2019)631043_EN.pdf.
SCHMID Nicholas, STEPHENS Bryce, An Introduction to Artificial Intelligence and Solutions to the Problems of Algorithmic Discrimination. ArXiv, 2019, p. 130-144.
SKITKA Linda, MOSIER Kathleen, BURDICK Mark, Does automation bias decision-making?. International Journal of Human-Computer Studies, 1999, p. 991-1006.
SPINDLER Gerald, Electronic Platforms: A Rough Overview of New Regulatory Challenges. In: PRETELLI Ilaria, Conflict of Laws in the Maze of Digital Platforms. Le droit international privé dans le labyrinthe des plateformes digitales, Schulthess, Zurich, 2019, p. 81-106.
TIMMIS Sue, BROADFOOT Patricia, SUTHERLAND Rosamund, Rethinking assessment in a digital age: opportunities, challenges and risks. British Educational Research Journal, 2016, p. 454-476.
TURING Alan Mathison, Computing machinery and intelligence. Mind, 1950, p. 433-460.
VEALE Michael, EDWARDS Lilian, Clarity, Surprises, and Further Questions in the Article 29 Working Party Draft Guidance on Automated Decision-Making and Profiling. Computer Law & Security Review, 2018, p. 398-404.
WIELSCH Dan, Private Law Regulation of Digital Intermediaries. European Review of Private Law, 2019, p. 197-220.
ZENO-ZENCOVICH VINCENZO, Uber: modello economico e implicazioni giuridiche. MediaLaws, 2018, p. 140-143.
ZUDDAS Paolo, Intelligenza artificiale e discriminazioni. Consulta online, 2020, p. 1-19. Disponibile in http://www.giurcost.org/liberamicorum.