Territórios do Conhecimento: o Debate Bioético da IA Responsável e Decolonial

Autores

DOI:

https://doi.org/10.5433/2176-6665.2024v29n3e50076

Palavras-chave:

inteligência artificial, bioética, decolonialidade, IA responsável

Resumo

O artigo explora os alinhamentos das perspectivas bioéticas e decoloniais com as premissas da inteligência artificial responsável (IAR). Propõe, desse modo, exames atentos sobre os conflitos implícitos nos termos ‘decolonialidade’ e ‘territórios do conhecimento’. Apresenta as aproximações dos debates acerca da biopolítica e necropolítica com a bioética, associando-os aos possíveis impactos da inteligência artificial (IA). Dado o inevitável alcance da IA em todas as esferas da sociedade, o olhar decolonial explicita o quanto a monocultura reforça ideias epistêmicas com potencial opressor sobre minorias e grupos que têm sido alvos desde as práticas coloniais até os dias atuais. Ao apresentar os princípios da IAR, o artigo ressalta o risco de absorver, sem o necessário pensamento crítico, as regras formais importadas do Norte Global como “A” solução para mitigar os possíveis impactos da IA, quando se fazem necessárias ações educativas e de comunicação dentro da cultura, que só serão possíveis partindo-se do entendimento de que a IAR é uma IA Lenta.

Downloads

Não há dados estatísticos.

Biografia do Autor

Elen Nas, Universidade de São Paulo

Doutora em Bioética, Ética Aplicada e Saúde Coletiva pela Universidade Federal do Rio de Janeiro (2021). Pesquisadora de pós-doutorado da Cátedra Oscar Sala do Instituto de Estudos Avançados da Universidade de São Paulo.

Referências

ACM – ASSOCIATION FOR COMPUTING MACHINERY. Statement on principles for responsible algorithmic systems. ACM Bulletins, New York, 1 nov. 2022. Disponível em: https://www.acm.org/articles/bulletins/2022/november/tpc-statement-responsible-algorithmicsystems. Acesso em: 15 mar. 2024.

AGAMBEN, Giorgio. Homo sacer: o poder soberano e a vida nua 1. Tradução de Henrique Burigo. Belo Horizonte: Editora da UFMG, 2002.

ALMEIDA, Virgílio; NAS, Elen. Desafios da IA responsável na pesquisa científica. Revista da USP, São Paulo, n. 141, p. 17-28, jun. 2024. DOI: https://doi.org/10.11606/issn.2316-9036.i141p17-28.

ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. In: MARTIN, Kristen. Ethics of data and analytics. Sebastopol: Auerbach Publications, 2022. p. 254-264.

ARAÚJO, Camila Souza; MEIRA, Wagner; ALMEIDA, Virgílio. Identifying stereotypes in the online perception of physical attractiveness. In: SOCINFO – SOCIAL INFORMATICS INTERNATIONAL CONFERENCE, 8., 2016, Bellevue. Anais […]. Bellevue: Springer International Publishing, 2016. p. 419-437. Disponível em: https://repositorio.ufmg.br/bitstream/1843/ESBFALLHYX/1/camilasouzaaraujo.pdf. Acesso em: 15 mar. 2024.

BAUMAN, Zygmunt. Globalização: as consequências humanas. São Paulo: Zahar, 1999.

BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big?. In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 4., 2021, Barcelona. Anais […]. Barcelona: ACM, 2021. p. 610-623. DOI: https://doi.org/10.1145/3442188.3445922.

BENJAMIN, Ruha. Assessing risk, automating racism. Science, Washington, D.C, v. 366, n. 6464, p. 421-422, 2019. DOI 10.1126/science.aaz3873.

BERTONCINI, Ana Luize Corrêa; SERAFIM, Mauricio C. Ethical content in artificial intelligence systems: a demand explained in three critical points. Frontiers in Psychology, Lausanne, v. 14, p. 1074787, mar. 2023. DOI: https://doi.org/10.3389/fpsyg.2023.1074787.

BIETTI, Elettra. From ethics washing to ethics bashing: a moral philosophy view on tech ethics. Journal of Social Computing, Piscataway, v. 2+, n. 3, p. 266-283, 2021.

CONROY, Maggie. The ethics of slow AI: why taking time to develop technology matters. Data Lab Notes, Online, Appleton, 2023. Disponível em: https://datalabnotes.com/slow-ai/. Acesso em: 14 mar. 2024.

COULDRY, Nick; MEJIAS, Ulises Ali. The decolonial turn in data and technology research: what is at stake and where is it heading? Information, Communication & Society, UK, v. 26, n. 4, p. 786-802, 2023. DOI: 10.1080/1369118X.2021.1986102.

DAIR - DISTRIBUTED AI RESEARCH INSTITUTE. Timnit Gebru launches independent AI research institute on anniversary of ouster from Google. Oakland: DAIR, 2021. Disponível em: https://www.dair-institute.org/press-release/. Acesso em: 14 mar. 2024.

DECOLONIZAI. Sobre o projeto. [2022]. Disponível em: https://www.decolonizai.com/sobre-oprojeto/. Acesso em: 30 jan. 2024.

DIMENSIONS. Linked research data from idea to impact. [2024]. Disponível em: https://www.dimensions.ai/. Acesso em: 14 jan. 2024.

FLORIDI, Luciano. ‘Distributed morality’: the ethics of information. Oxford: Oxford Academic, 2014.

FLORIDI, Luciano; SANDERS, Jeff W. On the morality of artificial agents. Minds and Machines, Berlin, v. 14, p. 349-379, 2004. Disponível em: https://link.springer.com/article/10.1023/B:MIND.0000035461.63578.9d. Acesso em: 14 mar. 2024.

FOUCAULT, Martins. Nascimento da biopolítica: curso dado no Collège de France (1978-1979). São Paulo: Martins Fontes, 2008.

FOUCAULT, Michel. História da sexualidade I: a vontade de saber. Tradução de Maria Thereza da Costa Albuquerque e J. A. Guilhon Albuquerque. Rio de Janeiro: Edições Graal, 1988.

FOUCAULT, Michel. Microfísica do poder. Rio de Janeiro: Edições Graal, 1993.

FOUCAULT, Michel. Outros espaços. In: FOUCAULT, Michel. Ditos e escritos. Barueri: Forense Universitária, 2001. v. 3, p. 411-422.

GARCIA-VIGIL, José L. Reflexiones en torno a la ética, la inteligencia humana y la inteligencia artificial. Gaceta Médica de México, Ciudad de México, v. 157, n. 3, p. 311-314, maio/jun. 2021. DOI: https://doi.org/10.24875/gmm.20000818.

GLOBAL GRAND CHALLENGES. Catalyzing equitable artificial intelligence (AI) use. Seattle: Bill & Melinda Gates Foundation, 2023. Disponível em: https://gcgh.grandchallenges.org/challenge/catalyzing-equitable-artificial-intelligence-ai-use. Acesso em: 30 jan. 2024.

GORDON, Lewis Ricardo. Medo da consciência negra. Tradução de José Geraldo Couto. São Paulo: Todavia, 2023.

GORDON, Lewis Ricardo. Freedom, Justice, and Decolonization. New York: Taylor & Francis. 2021.

HAO, Karen. We read the paper that forced Timnit Gebru out of Google: here’s what it says. MIT Technology Review, Massachusetts, 4 dez. 2020. Disponível em: https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paperforced-out-timnit-gebru/. Acesso em: 4 jan. 2024.

IPEA - INSTITUTO DE PESQUISA ECONÔMICA APLICADA. Atlas da violência. Brasília, DF: IPEA, [2023]. Disponível em: https://www.ipea.gov.br/atlasviolencia/. Acesso em: 14 mar. 2023.

MACIEL, Lucas da Costa. Perspectivismo ameríndio. In: ENCICLOPÉDIA de Antropologia. São Paulo: USP, 2019. Disponível em: https://ea.fflch.usp.br/conceito/perspectivismoamerindio. Acesso em: 4 jun. 2024.

MAGNO, Gabriel; ARAÚJO, Camila Souza; MEIRA JUNIOR, Wagner; ALMEIDA, Virgilio. Stereotypes in search engine results: understanding the role of local and global factors. arXiv preprint, [s.l.], nov. 2016. Disponível em: https://arxiv.org/search/?query=Stereotypes+in+search+engine+results%3A+understanding+th e+role+of+local+and+global+factors&searchtype=all&abstracts=show&order=- announced_date_first&size=50. Acesso em: 4 jun. 2024.

MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, p. 122-151, 2016. DOI: https://doi.org/10.60001/ae.n32.p122%20-%20151

MBOA NKOUDOU, Thomas Hervé. We need a decolonized appropriation of AI in Africa. Nature Human Behaviour, London, v. 7, n. 11, p. 1810-1811, 2023. DOI: 10.1038/s41562-023-01741-3.

MENDONÇA, Ricardo Fabrino; ALMEIDA, Emeritus Virgilio; FILGUEIRAS, Fernando. Algorithmic Institutionalism: the changing rules of social and political life. Oxford: University Press, 2024.

MILLER, Katharine. The movement to decolonize AI: centering dignity over dependency. HAI - Institute for Human-Centered AI, Stanford, 21 mar. 2022. Disponível em: https://hai.stanford.edu/news/movement-decolonize-ai-centering-dignity-over-dependency. Acesso em: 30 jan. 2024.

MOHAMED, Shakir; PNG, Marie-Therese; ISAAC, William. Decolonial AI: decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy and Technology, Stanford, v. 33, n. 4, p. 659-684, 2020. Disponível em: https://doi.org/10.1007/s13347-020-00405-8. Acesso em: 4 jun. 2024.

NAS, Elen. Arte eletrônica: elo perdido. São Paulo: Amazon Kindle, 2020. E-book.

NAS, Elen. Bioethics of nonpresence: body, philosophy and machines. São Paulo: Amazon Kindle, 2021. E-book.

NAS, Elen. Descolonizar o conhecimento: a perspectiva de Lewis Gordon. Desenvolvimento Social, Montes Claros, v. 29, n. 2, p. 189-199, 2023a. DOI 10.46551/issn2179-6807v29n2p189-199.

NAS, Elen. O Manifesto das Coisas: apontamentos para liberalização das vozes suprimidas. Aurora. Revista de Arte, Mídia e Política, v. 16, n. 48, p. 5-20, 2023c. DOI: https://doi.org/10.23925/1982-6672.2023v16i48p5-20.

NAS, Elen; AZEVEDO, Telma; LONGH, Fernando; TERCEIRO, Luciana; VALENTE, Tânia. Future visions for a decolonized future of HCI: thick descriptions of a survey interaction to discuss the colonization of imagination. INTERNATIONAL CONFERENCE ON HUMANCOMPUTER INTERACTION, Cham, p. 109-116, 2023b. DOI: https://doi.org/10.17613/30bc-6j76.

NASCIMENTO, Elen Cristina Carvalho. Reflexões bioéticas na era da inteligência artificial. In: CASTRO, João Cardoso; NIEMEYER-GUIMARÃES, Márcio; SIQUEIRA-BATISTA, Rodrigo (ed.). Caminhos da bioética. Teresópolis: Editora Unifeso, 2019. p. 345-362.

NASCIMENTO, Elen Cristina Carvalho. Arte eletrônica: elo perdido entre ciência, design e tecnologia. 2017. Dissertação (Mestrado em Design) – Pontifícia Universidade Católica do Rio de Janeiro, Rio de Janeiro, 2017. Disponível em: https://www.maxwell.vrac.pucrio.br/30067/30067.PDF. Acesso em: 14 mar. 2024.

NOBLE, Safiya Umoja. Algorithms of oppression. New York: New York University Press, 2018.

OECD – ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. AI principles overview. Paris: OCDE.AI, 2019. Disponível em: https://oecd.ai/en/ai-principles. Acesso em: 14 mar. 2024.

O'NEIL, Cathy. Algoritmos de destruição em massa. São Paulo: Editora Rua do Sabão, 2021.

O'NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown Publishers, 2016.

ONU – ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Declaração universal dos direitos humanos. Paris: ONU, 1948. Disponível em: https://declaracao1948.com.br/declaracaouniversal/declaracao-direitos-humanos/. Acesso em: 14 mar. 2016.

RAJI, Inioluwa Deborah; CHOCK, Sasha Costanza; BUOLAMWINI, Drjoy. Change from the outside: towards credible third-party audits of AI systems. MacArthur Foundation, Chicago, 7 jun. 2023. Disponível em: https://www.macfound.org/press/grantee-publications/outsidescrutiny-to-change-ai-systems. Acesso em: 14 mar. 2024.

SIMONDON, Gilbert. L’individu et sa genèse physico-biologique. Grenoble: Éditions Jérome Millon, 1995.

TADDEO, Mariarosaria; FLORIDI, Luciano. How AI can be a force for good. Science, Washington, D.C, v. 361, n. 6404, p. 751-752, 2018. DOI 10.1126/science.aat5991.

UNESCO – THE UNITED NATIONS EDUCATIONAL, SCIENTIFIC AND CULTURAL ORGANIZATION. Recommendations on the ethics of artificial intelligence. Paris: UNESCO, 2023. Disponível em: https://www.unesco.org/en/articles/recommendation-ethics-artificialintelligence. Acesso em: 14 mar. 2024.

ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: Public Affairs, 2019.

Publicado

2024-10-31

Como Citar

NAS, Elen. Territórios do Conhecimento: o Debate Bioético da IA Responsável e Decolonial. Mediações - Revista de Ciências Sociais, Londrina, v. 29, n. 3, p. 1–18, 2024. DOI: 10.5433/2176-6665.2024v29n3e50076. Disponível em: https://ojs.uel.br/revistas/uel/index.php/mediacoes/article/view/50076. Acesso em: 4 nov. 2024.

Edição

Seção

Artigos

Dados de financiamento

Artigos Semelhantes

1 2 > >> 

Você também pode iniciar uma pesquisa avançada por similaridade para este artigo.