Territórios do Conhecimento: o Debate Bioético da IA Responsável e Decolonial
DOI:
https://doi.org/10.5433/2176-6665.2024v29n3e50076Palavras-chave:
inteligência artificial, bioética, decolonialidade, IA responsávelResumo
O artigo explora os alinhamentos das perspectivas bioéticas e decoloniais com as premissas da inteligência artificial responsável (IAR). Propõe, desse modo, exames atentos sobre os conflitos implícitos nos termos ‘decolonialidade’ e ‘territórios do conhecimento’. Apresenta as aproximações dos debates acerca da biopolítica e necropolítica com a bioética, associando-os aos possíveis impactos da inteligência artificial (IA). Dado o inevitável alcance da IA em todas as esferas da sociedade, o olhar decolonial explicita o quanto a monocultura reforça ideias epistêmicas com potencial opressor sobre minorias e grupos que têm sido alvos desde as práticas coloniais até os dias atuais. Ao apresentar os princípios da IAR, o artigo ressalta o risco de absorver, sem o necessário pensamento crítico, as regras formais importadas do Norte Global como “A” solução para mitigar os possíveis impactos da IA, quando se fazem necessárias ações educativas e de comunicação dentro da cultura, que só serão possíveis partindo-se do entendimento de que a IAR é uma IA Lenta.
Downloads
Referências
ACM – ASSOCIATION FOR COMPUTING MACHINERY. Statement on principles for responsible algorithmic systems. ACM Bulletins, New York, 1 nov. 2022. Disponível em: https://www.acm.org/articles/bulletins/2022/november/tpc-statement-responsible-algorithmicsystems. Acesso em: 15 mar. 2024.
AGAMBEN, Giorgio. Homo sacer: o poder soberano e a vida nua 1. Tradução de Henrique Burigo. Belo Horizonte: Editora da UFMG, 2002.
ALMEIDA, Virgílio; NAS, Elen. Desafios da IA responsável na pesquisa científica. Revista da USP, São Paulo, n. 141, p. 17-28, jun. 2024. DOI: https://doi.org/10.11606/issn.2316-9036.i141p17-28.
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. In: MARTIN, Kristen. Ethics of data and analytics. Sebastopol: Auerbach Publications, 2022. p. 254-264.
ARAÚJO, Camila Souza; MEIRA, Wagner; ALMEIDA, Virgílio. Identifying stereotypes in the online perception of physical attractiveness. In: SOCINFO – SOCIAL INFORMATICS INTERNATIONAL CONFERENCE, 8., 2016, Bellevue. Anais […]. Bellevue: Springer International Publishing, 2016. p. 419-437. Disponível em: https://repositorio.ufmg.br/bitstream/1843/ESBFALLHYX/1/camilasouzaaraujo.pdf. Acesso em: 15 mar. 2024.
BAUMAN, Zygmunt. Globalização: as consequências humanas. São Paulo: Zahar, 1999.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big?. In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 4., 2021, Barcelona. Anais […]. Barcelona: ACM, 2021. p. 610-623. DOI: https://doi.org/10.1145/3442188.3445922.
BENJAMIN, Ruha. Assessing risk, automating racism. Science, Washington, D.C, v. 366, n. 6464, p. 421-422, 2019. DOI 10.1126/science.aaz3873.
BERTONCINI, Ana Luize Corrêa; SERAFIM, Mauricio C. Ethical content in artificial intelligence systems: a demand explained in three critical points. Frontiers in Psychology, Lausanne, v. 14, p. 1074787, mar. 2023. DOI: https://doi.org/10.3389/fpsyg.2023.1074787.
BIETTI, Elettra. From ethics washing to ethics bashing: a moral philosophy view on tech ethics. Journal of Social Computing, Piscataway, v. 2+, n. 3, p. 266-283, 2021.
CONROY, Maggie. The ethics of slow AI: why taking time to develop technology matters. Data Lab Notes, Online, Appleton, 2023. Disponível em: https://datalabnotes.com/slow-ai/. Acesso em: 14 mar. 2024.
COULDRY, Nick; MEJIAS, Ulises Ali. The decolonial turn in data and technology research: what is at stake and where is it heading? Information, Communication & Society, UK, v. 26, n. 4, p. 786-802, 2023. DOI: 10.1080/1369118X.2021.1986102.
DAIR - DISTRIBUTED AI RESEARCH INSTITUTE. Timnit Gebru launches independent AI research institute on anniversary of ouster from Google. Oakland: DAIR, 2021. Disponível em: https://www.dair-institute.org/press-release/. Acesso em: 14 mar. 2024.
DECOLONIZAI. Sobre o projeto. [2022]. Disponível em: https://www.decolonizai.com/sobre-oprojeto/. Acesso em: 30 jan. 2024.
DIMENSIONS. Linked research data from idea to impact. [2024]. Disponível em: https://www.dimensions.ai/. Acesso em: 14 jan. 2024.
FLORIDI, Luciano. ‘Distributed morality’: the ethics of information. Oxford: Oxford Academic, 2014.
FLORIDI, Luciano; SANDERS, Jeff W. On the morality of artificial agents. Minds and Machines, Berlin, v. 14, p. 349-379, 2004. Disponível em: https://link.springer.com/article/10.1023/B:MIND.0000035461.63578.9d. Acesso em: 14 mar. 2024.
FOUCAULT, Martins. Nascimento da biopolítica: curso dado no Collège de France (1978-1979). São Paulo: Martins Fontes, 2008.
FOUCAULT, Michel. História da sexualidade I: a vontade de saber. Tradução de Maria Thereza da Costa Albuquerque e J. A. Guilhon Albuquerque. Rio de Janeiro: Edições Graal, 1988.
FOUCAULT, Michel. Microfísica do poder. Rio de Janeiro: Edições Graal, 1993.
FOUCAULT, Michel. Outros espaços. In: FOUCAULT, Michel. Ditos e escritos. Barueri: Forense Universitária, 2001. v. 3, p. 411-422.
GARCIA-VIGIL, José L. Reflexiones en torno a la ética, la inteligencia humana y la inteligencia artificial. Gaceta Médica de México, Ciudad de México, v. 157, n. 3, p. 311-314, maio/jun. 2021. DOI: https://doi.org/10.24875/gmm.20000818.
GLOBAL GRAND CHALLENGES. Catalyzing equitable artificial intelligence (AI) use. Seattle: Bill & Melinda Gates Foundation, 2023. Disponível em: https://gcgh.grandchallenges.org/challenge/catalyzing-equitable-artificial-intelligence-ai-use. Acesso em: 30 jan. 2024.
GORDON, Lewis Ricardo. Medo da consciência negra. Tradução de José Geraldo Couto. São Paulo: Todavia, 2023.
GORDON, Lewis Ricardo. Freedom, Justice, and Decolonization. New York: Taylor & Francis. 2021.
HAO, Karen. We read the paper that forced Timnit Gebru out of Google: here’s what it says. MIT Technology Review, Massachusetts, 4 dez. 2020. Disponível em: https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paperforced-out-timnit-gebru/. Acesso em: 4 jan. 2024.
IPEA - INSTITUTO DE PESQUISA ECONÔMICA APLICADA. Atlas da violência. Brasília, DF: IPEA, [2023]. Disponível em: https://www.ipea.gov.br/atlasviolencia/. Acesso em: 14 mar. 2023.
MACIEL, Lucas da Costa. Perspectivismo ameríndio. In: ENCICLOPÉDIA de Antropologia. São Paulo: USP, 2019. Disponível em: https://ea.fflch.usp.br/conceito/perspectivismoamerindio. Acesso em: 4 jun. 2024.
MAGNO, Gabriel; ARAÚJO, Camila Souza; MEIRA JUNIOR, Wagner; ALMEIDA, Virgilio. Stereotypes in search engine results: understanding the role of local and global factors. arXiv preprint, [s.l.], nov. 2016. Disponível em: https://arxiv.org/search/?query=Stereotypes+in+search+engine+results%3A+understanding+th e+role+of+local+and+global+factors&searchtype=all&abstracts=show&order=- announced_date_first&size=50. Acesso em: 4 jun. 2024.
MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, p. 122-151, 2016. DOI: https://doi.org/10.60001/ae.n32.p122%20-%20151
MBOA NKOUDOU, Thomas Hervé. We need a decolonized appropriation of AI in Africa. Nature Human Behaviour, London, v. 7, n. 11, p. 1810-1811, 2023. DOI: 10.1038/s41562-023-01741-3.
MENDONÇA, Ricardo Fabrino; ALMEIDA, Emeritus Virgilio; FILGUEIRAS, Fernando. Algorithmic Institutionalism: the changing rules of social and political life. Oxford: University Press, 2024.
MILLER, Katharine. The movement to decolonize AI: centering dignity over dependency. HAI - Institute for Human-Centered AI, Stanford, 21 mar. 2022. Disponível em: https://hai.stanford.edu/news/movement-decolonize-ai-centering-dignity-over-dependency. Acesso em: 30 jan. 2024.
MOHAMED, Shakir; PNG, Marie-Therese; ISAAC, William. Decolonial AI: decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy and Technology, Stanford, v. 33, n. 4, p. 659-684, 2020. Disponível em: https://doi.org/10.1007/s13347-020-00405-8. Acesso em: 4 jun. 2024.
NAS, Elen. Arte eletrônica: elo perdido. São Paulo: Amazon Kindle, 2020. E-book.
NAS, Elen. Bioethics of nonpresence: body, philosophy and machines. São Paulo: Amazon Kindle, 2021. E-book.
NAS, Elen. Descolonizar o conhecimento: a perspectiva de Lewis Gordon. Desenvolvimento Social, Montes Claros, v. 29, n. 2, p. 189-199, 2023a. DOI 10.46551/issn2179-6807v29n2p189-199.
NAS, Elen. O Manifesto das Coisas: apontamentos para liberalização das vozes suprimidas. Aurora. Revista de Arte, Mídia e Política, v. 16, n. 48, p. 5-20, 2023c. DOI: https://doi.org/10.23925/1982-6672.2023v16i48p5-20.
NAS, Elen; AZEVEDO, Telma; LONGH, Fernando; TERCEIRO, Luciana; VALENTE, Tânia. Future visions for a decolonized future of HCI: thick descriptions of a survey interaction to discuss the colonization of imagination. INTERNATIONAL CONFERENCE ON HUMANCOMPUTER INTERACTION, Cham, p. 109-116, 2023b. DOI: https://doi.org/10.17613/30bc-6j76.
NASCIMENTO, Elen Cristina Carvalho. Reflexões bioéticas na era da inteligência artificial. In: CASTRO, João Cardoso; NIEMEYER-GUIMARÃES, Márcio; SIQUEIRA-BATISTA, Rodrigo (ed.). Caminhos da bioética. Teresópolis: Editora Unifeso, 2019. p. 345-362.
NASCIMENTO, Elen Cristina Carvalho. Arte eletrônica: elo perdido entre ciência, design e tecnologia. 2017. Dissertação (Mestrado em Design) – Pontifícia Universidade Católica do Rio de Janeiro, Rio de Janeiro, 2017. Disponível em: https://www.maxwell.vrac.pucrio.br/30067/30067.PDF. Acesso em: 14 mar. 2024.
NOBLE, Safiya Umoja. Algorithms of oppression. New York: New York University Press, 2018.
OECD – ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. AI principles overview. Paris: OCDE.AI, 2019. Disponível em: https://oecd.ai/en/ai-principles. Acesso em: 14 mar. 2024.
O'NEIL, Cathy. Algoritmos de destruição em massa. São Paulo: Editora Rua do Sabão, 2021.
O'NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown Publishers, 2016.
ONU – ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Declaração universal dos direitos humanos. Paris: ONU, 1948. Disponível em: https://declaracao1948.com.br/declaracaouniversal/declaracao-direitos-humanos/. Acesso em: 14 mar. 2016.
RAJI, Inioluwa Deborah; CHOCK, Sasha Costanza; BUOLAMWINI, Drjoy. Change from the outside: towards credible third-party audits of AI systems. MacArthur Foundation, Chicago, 7 jun. 2023. Disponível em: https://www.macfound.org/press/grantee-publications/outsidescrutiny-to-change-ai-systems. Acesso em: 14 mar. 2024.
SIMONDON, Gilbert. L’individu et sa genèse physico-biologique. Grenoble: Éditions Jérome Millon, 1995.
TADDEO, Mariarosaria; FLORIDI, Luciano. How AI can be a force for good. Science, Washington, D.C, v. 361, n. 6404, p. 751-752, 2018. DOI 10.1126/science.aat5991.
UNESCO – THE UNITED NATIONS EDUCATIONAL, SCIENTIFIC AND CULTURAL ORGANIZATION. Recommendations on the ethics of artificial intelligence. Paris: UNESCO, 2023. Disponível em: https://www.unesco.org/en/articles/recommendation-ethics-artificialintelligence. Acesso em: 14 mar. 2024.
ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: Public Affairs, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Elen Nas
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Os direitos autorais relativos aos artigos publicados em Mediações são do(a)s autore(a)s; solicita-se aos(às) autore(a)s, em caso de republicação parcial ou total da primeira publicação, a indicação da publicação original no periódico.
Mediações utiliza a licença Creative Commons Attribution 4.0 International, que prevê Acesso Aberto, facultando a qualquer usuário(a) a leitura, o download, a cópia e a disseminação de seu conteúdo, desde que adequadamente referenciado.
As opiniões emitidas pelo(a)s autore(a)s dos artigos são de sua exclusiva responsabilidade.
Dados de financiamento
-
Universidade de São Paulo
Números do Financiamento Comitê Gestor da Internet no Brasil/IEA-USP (Projeto 642)