Territorios del Conocimiento: el Debate Bioético de la IA Responsable y Decolonial

Autores/as

DOI:

https://doi.org/10.5433/2176-6665.2024v29n3e50076

Palabras clave:

inteligencia artificial, bioética, decolonialidad, IA responsable

Resumen

El artículo explora los alineamientos de las perspectivas bioéticas y decoloniales con las premisas de la inteligencia artificial responsable (IAR). Propone, de este modo, exámenes atentos sobre los conflictos implícitos en los términos ‘decolonialidad’ y ‘territorios del conocimiento’. Presenta las aproximaciones de los debates sobre la biopolítica y necropolítica con la bioética, asociándolos a los posibles impactos de la inteligencia artificial (IA). Dado el inevitable alcance de la IA en todas las esferas de la sociedad, la mirada decolonial explicita cuánto la monocultura refuerza ideas epistémicas con potencial opresor sobre minorías y grupos que han sido blancos desde las prácticas coloniales hasta la actualidad. Al presentar los principios de la IAR, el artículo resalta el riesgo de absorber, sin el necesario pensamiento crítico, las reglas formales importadas del Norte Global como “la” solución para mitigar los posibles impactos de la IA, cuando son necesarias acciones educativas y de comunicación dentro de la cultura, que solo serán posibles partiendo del entendimiento de que la IAR es una IA Lenta.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Elen Nas, Universidad de São Paulo

Doctora en Bioética, Ética Aplicada y Salud Colectiva por la Universidad Federal de Río de Janeiro (2021). Investigadora de posdoctorado de la Cátedra Oscar Sala del Instituto de Estudios Avanzados de la Universidad de São Paulo.

Citas

ACM – ASSOCIATION FOR COMPUTING MACHINERY. Statement on principles for responsible algorithmic systems. ACM Bulletins, New York, 1 nov. 2022. Disponível em: https://www.acm.org/articles/bulletins/2022/november/tpc-statement-responsible-algorithmicsystems. Acesso em: 15 mar. 2024.

AGAMBEN, Giorgio. Homo sacer: o poder soberano e a vida nua 1. Tradução de Henrique Burigo. Belo Horizonte: Editora da UFMG, 2002.

ALMEIDA, Virgílio; NAS, Elen. Desafios da IA responsável na pesquisa científica. Revista da USP, São Paulo, n. 141, p. 17-28, jun. 2024. DOI: https://doi.org/10.11606/issn.2316-9036.i141p17-28.

ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. In: MARTIN, Kristen. Ethics of data and analytics. Sebastopol: Auerbach Publications, 2022. p. 254-264.

ARAÚJO, Camila Souza; MEIRA, Wagner; ALMEIDA, Virgílio. Identifying stereotypes in the online perception of physical attractiveness. In: SOCINFO – SOCIAL INFORMATICS INTERNATIONAL CONFERENCE, 8., 2016, Bellevue. Anais […]. Bellevue: Springer International Publishing, 2016. p. 419-437. Disponível em: https://repositorio.ufmg.br/bitstream/1843/ESBFALLHYX/1/camilasouzaaraujo.pdf. Acesso em: 15 mar. 2024.

BAUMAN, Zygmunt. Globalização: as consequências humanas. São Paulo: Zahar, 1999.

BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big?. In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 4., 2021, Barcelona. Anais […]. Barcelona: ACM, 2021. p. 610-623. DOI: https://doi.org/10.1145/3442188.3445922.

BENJAMIN, Ruha. Assessing risk, automating racism. Science, Washington, D.C, v. 366, n. 6464, p. 421-422, 2019. DOI 10.1126/science.aaz3873.

BERTONCINI, Ana Luize Corrêa; SERAFIM, Mauricio C. Ethical content in artificial intelligence systems: a demand explained in three critical points. Frontiers in Psychology, Lausanne, v. 14, p. 1074787, mar. 2023. DOI: https://doi.org/10.3389/fpsyg.2023.1074787.

BIETTI, Elettra. From ethics washing to ethics bashing: a moral philosophy view on tech ethics. Journal of Social Computing, Piscataway, v. 2+, n. 3, p. 266-283, 2021.

CONROY, Maggie. The ethics of slow AI: why taking time to develop technology matters. Data Lab Notes, Online, Appleton, 2023. Disponível em: https://datalabnotes.com/slow-ai/. Acesso em: 14 mar. 2024.

COULDRY, Nick; MEJIAS, Ulises Ali. The decolonial turn in data and technology research: what is at stake and where is it heading? Information, Communication & Society, UK, v. 26, n. 4, p. 786-802, 2023. DOI: 10.1080/1369118X.2021.1986102.

DAIR - DISTRIBUTED AI RESEARCH INSTITUTE. Timnit Gebru launches independent AI research institute on anniversary of ouster from Google. Oakland: DAIR, 2021. Disponível em: https://www.dair-institute.org/press-release/. Acesso em: 14 mar. 2024.

DECOLONIZAI. Sobre o projeto. [2022]. Disponível em: https://www.decolonizai.com/sobre-oprojeto/. Acesso em: 30 jan. 2024.

DIMENSIONS. Linked research data from idea to impact. [2024]. Disponível em: https://www.dimensions.ai/. Acesso em: 14 jan. 2024.

FLORIDI, Luciano. ‘Distributed morality’: the ethics of information. Oxford: Oxford Academic, 2014.

FLORIDI, Luciano; SANDERS, Jeff W. On the morality of artificial agents. Minds and Machines, Berlin, v. 14, p. 349-379, 2004. Disponível em: https://link.springer.com/article/10.1023/B:MIND.0000035461.63578.9d. Acesso em: 14 mar. 2024.

FOUCAULT, Martins. Nascimento da biopolítica: curso dado no Collège de France (1978-1979). São Paulo: Martins Fontes, 2008.

FOUCAULT, Michel. História da sexualidade I: a vontade de saber. Tradução de Maria Thereza da Costa Albuquerque e J. A. Guilhon Albuquerque. Rio de Janeiro: Edições Graal, 1988.

FOUCAULT, Michel. Microfísica do poder. Rio de Janeiro: Edições Graal, 1993.

FOUCAULT, Michel. Outros espaços. In: FOUCAULT, Michel. Ditos e escritos. Barueri: Forense Universitária, 2001. v. 3, p. 411-422.

GARCIA-VIGIL, José L. Reflexiones en torno a la ética, la inteligencia humana y la inteligencia artificial. Gaceta Médica de México, Ciudad de México, v. 157, n. 3, p. 311-314, maio/jun. 2021. DOI: https://doi.org/10.24875/gmm.20000818.

GLOBAL GRAND CHALLENGES. Catalyzing equitable artificial intelligence (AI) use. Seattle: Bill & Melinda Gates Foundation, 2023. Disponível em: https://gcgh.grandchallenges.org/challenge/catalyzing-equitable-artificial-intelligence-ai-use. Acesso em: 30 jan. 2024.

GORDON, Lewis Ricardo. Medo da consciência negra. Tradução de José Geraldo Couto. São Paulo: Todavia, 2023.

GORDON, Lewis Ricardo. Freedom, Justice, and Decolonization. New York: Taylor & Francis. 2021.

HAO, Karen. We read the paper that forced Timnit Gebru out of Google: here’s what it says. MIT Technology Review, Massachusetts, 4 dez. 2020. Disponível em: https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paperforced-out-timnit-gebru/. Acesso em: 4 jan. 2024.

IPEA - INSTITUTO DE PESQUISA ECONÔMICA APLICADA. Atlas da violência. Brasília, DF: IPEA, [2023]. Disponível em: https://www.ipea.gov.br/atlasviolencia/. Acesso em: 14 mar. 2023.

MACIEL, Lucas da Costa. Perspectivismo ameríndio. In: ENCICLOPÉDIA de Antropologia. São Paulo: USP, 2019. Disponível em: https://ea.fflch.usp.br/conceito/perspectivismoamerindio. Acesso em: 4 jun. 2024.

MAGNO, Gabriel; ARAÚJO, Camila Souza; MEIRA JUNIOR, Wagner; ALMEIDA, Virgilio. Stereotypes in search engine results: understanding the role of local and global factors. arXiv preprint, [s.l.], nov. 2016. Disponível em: https://arxiv.org/search/?query=Stereotypes+in+search+engine+results%3A+understanding+th e+role+of+local+and+global+factors&searchtype=all&abstracts=show&order=- announced_date_first&size=50. Acesso em: 4 jun. 2024.

MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, p. 122-151, 2016. DOI: https://doi.org/10.60001/ae.n32.p122%20-%20151

MBOA NKOUDOU, Thomas Hervé. We need a decolonized appropriation of AI in Africa. Nature Human Behaviour, London, v. 7, n. 11, p. 1810-1811, 2023. DOI: 10.1038/s41562-023-01741-3.

MENDONÇA, Ricardo Fabrino; ALMEIDA, Emeritus Virgilio; FILGUEIRAS, Fernando. Algorithmic Institutionalism: the changing rules of social and political life. Oxford: University Press, 2024.

MILLER, Katharine. The movement to decolonize AI: centering dignity over dependency. HAI - Institute for Human-Centered AI, Stanford, 21 mar. 2022. Disponível em: https://hai.stanford.edu/news/movement-decolonize-ai-centering-dignity-over-dependency. Acesso em: 30 jan. 2024.

MOHAMED, Shakir; PNG, Marie-Therese; ISAAC, William. Decolonial AI: decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy and Technology, Stanford, v. 33, n. 4, p. 659-684, 2020. Disponível em: https://doi.org/10.1007/s13347-020-00405-8. Acesso em: 4 jun. 2024.

NAS, Elen. Arte eletrônica: elo perdido. São Paulo: Amazon Kindle, 2020. E-book.

NAS, Elen. Bioethics of nonpresence: body, philosophy and machines. São Paulo: Amazon Kindle, 2021. E-book.

NAS, Elen. Descolonizar o conhecimento: a perspectiva de Lewis Gordon. Desenvolvimento Social, Montes Claros, v. 29, n. 2, p. 189-199, 2023a. DOI 10.46551/issn2179-6807v29n2p189-199.

NAS, Elen. O Manifesto das Coisas: apontamentos para liberalização das vozes suprimidas. Aurora. Revista de Arte, Mídia e Política, v. 16, n. 48, p. 5-20, 2023c. DOI: https://doi.org/10.23925/1982-6672.2023v16i48p5-20.

NAS, Elen; AZEVEDO, Telma; LONGH, Fernando; TERCEIRO, Luciana; VALENTE, Tânia. Future visions for a decolonized future of HCI: thick descriptions of a survey interaction to discuss the colonization of imagination. INTERNATIONAL CONFERENCE ON HUMANCOMPUTER INTERACTION, Cham, p. 109-116, 2023b. DOI: https://doi.org/10.17613/30bc-6j76.

NASCIMENTO, Elen Cristina Carvalho. Reflexões bioéticas na era da inteligência artificial. In: CASTRO, João Cardoso; NIEMEYER-GUIMARÃES, Márcio; SIQUEIRA-BATISTA, Rodrigo (ed.). Caminhos da bioética. Teresópolis: Editora Unifeso, 2019. p. 345-362.

NASCIMENTO, Elen Cristina Carvalho. Arte eletrônica: elo perdido entre ciência, design e tecnologia. 2017. Dissertação (Mestrado em Design) – Pontifícia Universidade Católica do Rio de Janeiro, Rio de Janeiro, 2017. Disponível em: https://www.maxwell.vrac.pucrio.br/30067/30067.PDF. Acesso em: 14 mar. 2024.

NOBLE, Safiya Umoja. Algorithms of oppression. New York: New York University Press, 2018.

OECD – ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. AI principles overview. Paris: OCDE.AI, 2019. Disponível em: https://oecd.ai/en/ai-principles. Acesso em: 14 mar. 2024.

O'NEIL, Cathy. Algoritmos de destruição em massa. São Paulo: Editora Rua do Sabão, 2021.

O'NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown Publishers, 2016.

ONU – ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Declaração universal dos direitos humanos. Paris: ONU, 1948. Disponível em: https://declaracao1948.com.br/declaracaouniversal/declaracao-direitos-humanos/. Acesso em: 14 mar. 2016.

RAJI, Inioluwa Deborah; CHOCK, Sasha Costanza; BUOLAMWINI, Drjoy. Change from the outside: towards credible third-party audits of AI systems. MacArthur Foundation, Chicago, 7 jun. 2023. Disponível em: https://www.macfound.org/press/grantee-publications/outsidescrutiny-to-change-ai-systems. Acesso em: 14 mar. 2024.

SIMONDON, Gilbert. L’individu et sa genèse physico-biologique. Grenoble: Éditions Jérome Millon, 1995.

TADDEO, Mariarosaria; FLORIDI, Luciano. How AI can be a force for good. Science, Washington, D.C, v. 361, n. 6404, p. 751-752, 2018. DOI 10.1126/science.aat5991.

UNESCO – THE UNITED NATIONS EDUCATIONAL, SCIENTIFIC AND CULTURAL ORGANIZATION. Recommendations on the ethics of artificial intelligence. Paris: UNESCO, 2023. Disponível em: https://www.unesco.org/en/articles/recommendation-ethics-artificialintelligence. Acesso em: 14 mar. 2024.

ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: Public Affairs, 2019.

Publicado

2024-10-31

Cómo citar

NAS, Elen. Territorios del Conocimiento: el Debate Bioético de la IA Responsable y Decolonial. Mediações - Revista de Ciências Sociais, Londrina, v. 29, n. 3, p. 1–18, 2024. DOI: 10.5433/2176-6665.2024v29n3e50076. Disponível em: https://ojs.uel.br/revistas/uel/index.php/mediacoes/article/view/50076. Acesso em: 24 nov. 2024.

Número

Sección

Artículos

Datos de los fondos

Artículos similares

1 2 > >> 

También puede {advancedSearchLink} para este artículo.