Territórios do Conhecimento: o Debate Bioético da IA Responsável e Decolonial
DOI:
https://doi.org/10.5433/2176-6665.2024v29n3e50076Palavras-chave:
inteligência artificial, bioética, decolonialidade, IA responsávelResumo
O artigo explora os alinhamentos das perspectivas bioéticas e decoloniais com as premissas da inteligência artificial responsável (IAR). Propõe, desse modo, exames atentos sobre os conflitos implícitos nos termos ‘decolonialidade’ e ‘territórios do conhecimento’. Apresenta as aproximações dos debates acerca da biopolítica e necropolítica com a bioética, associando-os aos possíveis impactos da inteligência artificial (IA). Dado o inevitável alcance da IA em todas as esferas da sociedade, o olhar decolonial explicita o quanto a monocultura reforça ideias epistêmicas com potencial opressor sobre minorias e grupos que têm sido alvos desde as práticas coloniais até os dias atuais. Ao apresentar os princípios da IAR, o artigo ressalta o risco de absorver, sem o necessário pensamento crítico, as regras formais importadas do Norte Global como “A” solução para mitigar os possíveis impactos da IA, quando se fazem necessárias ações educativas e de comunicação dentro da cultura, que só serão possíveis partindo-se do entendimento de que a IAR é uma IA Lenta.
Downloads
Referências
ACM – ASSOCIATION FOR COMPUTING MACHINERY. Statement on principles for responsible algorithmic systems. ACM Bulletins, New York, 1 nov. 2022. Disponível em: https://www.acm.org/articles/bulletins/2022/november/tpc-statement-responsible-algorithmicsystems. Acesso em: 15 mar. 2024.
AGAMBEN, Giorgio. Homo sacer: o poder soberano e a vida nua 1. Tradução de Henrique Burigo. Belo Horizonte: Editora da UFMG, 2002.
ALMEIDA, Virgílio; NAS, Elen. Desafios da IA responsável na pesquisa científica. Revista da USP, São Paulo, n. 141, p. 17-28, jun. 2024. DOI: https://doi.org/10.11606/issn.2316-9036.i141p17-28. DOI: https://doi.org/10.11606/issn.2316-9036.i141p17-28
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. In: MARTIN, Kristen. Ethics of data and analytics. Sebastopol: Auerbach Publications, 2022. p. 254-264. DOI: https://doi.org/10.1201/9781003278290-37
ARAÚJO, Camila Souza; MEIRA, Wagner; ALMEIDA, Virgílio. Identifying stereotypes in the online perception of physical attractiveness. In: SOCINFO – SOCIAL INFORMATICS INTERNATIONAL CONFERENCE, 8., 2016, Bellevue. Anais […]. Bellevue: Springer International Publishing, 2016. p. 419-437. Disponível em: https://repositorio.ufmg.br/bitstream/1843/ESBFALLHYX/1/camilasouzaaraujo.pdf. Acesso em: 15 mar. 2024. DOI: https://doi.org/10.1007/978-3-319-47880-7_26
BAUMAN, Zygmunt. Globalização: as consequências humanas. São Paulo: Zahar, 1999.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big?. In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, 4., 2021, Barcelona. Anais […]. Barcelona: ACM, 2021. p. 610-623. DOI: https://doi.org/10.1145/3442188.3445922. DOI: https://doi.org/10.1145/3442188.3445922
BENJAMIN, Ruha. Assessing risk, automating racism. Science, Washington, D.C, v. 366, n. 6464, p. 421-422, 2019. DOI 10.1126/science.aaz3873. DOI: https://doi.org/10.1126/science.aaz3873
BERTONCINI, Ana Luize Corrêa; SERAFIM, Mauricio C. Ethical content in artificial intelligence systems: a demand explained in three critical points. Frontiers in Psychology, Lausanne, v. 14, p. 1074787, mar. 2023. DOI: https://doi.org/10.3389/fpsyg.2023.1074787. DOI: https://doi.org/10.3389/fpsyg.2023.1074787
BIETTI, Elettra. From ethics washing to ethics bashing: a moral philosophy view on tech ethics. Journal of Social Computing, Piscataway, v. 2+, n. 3, p. 266-283, 2021. DOI: https://doi.org/10.23919/JSC.2021.0031
CONROY, Maggie. The ethics of slow AI: why taking time to develop technology matters. Data Lab Notes, Online, Appleton, 2023. Disponível em: https://datalabnotes.com/slow-ai/. Acesso em: 14 mar. 2024.
COULDRY, Nick; MEJIAS, Ulises Ali. The decolonial turn in data and technology research: what is at stake and where is it heading? Information, Communication & Society, UK, v. 26, n. 4, p. 786-802, 2023. DOI: 10.1080/1369118X.2021.1986102. DOI: https://doi.org/10.1080/1369118X.2021.1986102
DAIR - DISTRIBUTED AI RESEARCH INSTITUTE. Timnit Gebru launches independent AI research institute on anniversary of ouster from Google. Oakland: DAIR, 2021. Disponível em: https://www.dair-institute.org/press-release/. Acesso em: 14 mar. 2024.
DECOLONIZAI. Sobre o projeto. [2022]. Disponível em: https://www.decolonizai.com/sobre-oprojeto/. Acesso em: 30 jan. 2024.
DIMENSIONS. Linked research data from idea to impact. [2024]. Disponível em: https://www.dimensions.ai/. Acesso em: 14 jan. 2024.
FLORIDI, Luciano. ‘Distributed morality’: the ethics of information. Oxford: Oxford Academic, 2014. DOI: https://doi.org/10.1093/acprof:oso/9780199641321.003.0013
FLORIDI, Luciano; SANDERS, Jeff W. On the morality of artificial agents. Minds and Machines, Berlin, v. 14, p. 349-379, 2004. Disponível em: https://link.springer.com/article/10.1023/B:MIND.0000035461.63578.9d. Acesso em: 14 mar. 2024. DOI: https://doi.org/10.1023/B:MIND.0000035461.63578.9d
FOUCAULT, Martins. Nascimento da biopolítica: curso dado no Collège de France (1978-1979). São Paulo: Martins Fontes, 2008.
FOUCAULT, Michel. História da sexualidade I: a vontade de saber. Tradução de Maria Thereza da Costa Albuquerque e J. A. Guilhon Albuquerque. Rio de Janeiro: Edições Graal, 1988.
FOUCAULT, Michel. Microfísica do poder. Rio de Janeiro: Edições Graal, 1993.
FOUCAULT, Michel. Outros espaços. In: FOUCAULT, Michel. Ditos e escritos. Barueri: Forense Universitária, 2001. v. 3, p. 411-422.
GARCIA-VIGIL, José L. Reflexiones en torno a la ética, la inteligencia humana y la inteligencia artificial. Gaceta Médica de México, Ciudad de México, v. 157, n. 3, p. 311-314, maio/jun. 2021. DOI: https://doi.org/10.24875/gmm.20000818. DOI: https://doi.org/10.24875/GMM.20000818
GLOBAL GRAND CHALLENGES. Catalyzing equitable artificial intelligence (AI) use. Seattle: Bill & Melinda Gates Foundation, 2023. Disponível em: https://gcgh.grandchallenges.org/challenge/catalyzing-equitable-artificial-intelligence-ai-use. Acesso em: 30 jan. 2024.
GORDON, Lewis Ricardo. Medo da consciência negra. Tradução de José Geraldo Couto. São Paulo: Todavia, 2023.
GORDON, Lewis Ricardo. Freedom, Justice, and Decolonization. New York: Taylor & Francis. 2021. DOI: https://doi.org/10.4324/9781003112594
HAO, Karen. We read the paper that forced Timnit Gebru out of Google: here’s what it says. MIT Technology Review, Massachusetts, 4 dez. 2020. Disponível em: https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paperforced-out-timnit-gebru/. Acesso em: 4 jan. 2024.
IPEA - INSTITUTO DE PESQUISA ECONÔMICA APLICADA. Atlas da violência. Brasília, DF: IPEA, [2023]. Disponível em: https://www.ipea.gov.br/atlasviolencia/. Acesso em: 14 mar. 2023.
MACIEL, Lucas da Costa. Perspectivismo ameríndio. In: ENCICLOPÉDIA de Antropologia. São Paulo: USP, 2019. Disponível em: https://ea.fflch.usp.br/conceito/perspectivismoamerindio. Acesso em: 4 jun. 2024.
MAGNO, Gabriel; ARAÚJO, Camila Souza; MEIRA JUNIOR, Wagner; ALMEIDA, Virgilio. Stereotypes in search engine results: understanding the role of local and global factors. arXiv preprint, [s.l.], nov. 2016. Disponível em: https://arxiv.org/search/?query=Stereotypes+in+search+engine+results%3A+understanding+th e+role+of+local+and+global+factors&searchtype=all&abstracts=show&order=- announced_date_first&size=50. Acesso em: 4 jun. 2024.
MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, p. 122-151, 2016. DOI: https://doi.org/10.60001/ae.n32.p122%20-%20151
MBOA NKOUDOU, Thomas Hervé. We need a decolonized appropriation of AI in Africa. Nature Human Behaviour, London, v. 7, n. 11, p. 1810-1811, 2023. DOI: 10.1038/s41562-023-01741-3. DOI: https://doi.org/10.1038/s41562-023-01741-3
MENDONÇA, Ricardo Fabrino; ALMEIDA, Emeritus Virgilio; FILGUEIRAS, Fernando. Algorithmic Institutionalism: the changing rules of social and political life. Oxford: University Press, 2024. DOI: https://doi.org/10.1093/oso/9780192870070.001.0001
MILLER, Katharine. The movement to decolonize AI: centering dignity over dependency. HAI - Institute for Human-Centered AI, Stanford, 21 mar. 2022. Disponível em: https://hai.stanford.edu/news/movement-decolonize-ai-centering-dignity-over-dependency. Acesso em: 30 jan. 2024.
MOHAMED, Shakir; PNG, Marie-Therese; ISAAC, William. Decolonial AI: decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy and Technology, Stanford, v. 33, n. 4, p. 659-684, 2020. Disponível em: https://doi.org/10.1007/s13347-020-00405-8. Acesso em: 4 jun. 2024. DOI: https://doi.org/10.1007/s13347-020-00405-8
NAS, Elen. Arte eletrônica: elo perdido. São Paulo: Amazon Kindle, 2020. E-book.
NAS, Elen. Bioethics of nonpresence: body, philosophy and machines. São Paulo: Amazon Kindle, 2021. E-book.
NAS, Elen. Descolonizar o conhecimento: a perspectiva de Lewis Gordon. Desenvolvimento Social, Montes Claros, v. 29, n. 2, p. 189-199, 2023a. DOI 10.46551/issn2179-6807v29n2p189-199. DOI: https://doi.org/10.46551/issn2179-6807v29n2p189-199
NAS, Elen. O Manifesto das Coisas: apontamentos para liberalização das vozes suprimidas. Aurora. Revista de Arte, Mídia e Política, v. 16, n. 48, p. 5-20, 2023c. DOI: https://doi.org/10.23925/1982-6672.2023v16i48p5-20. DOI: https://doi.org/10.23925/1982-6672.2023v16i48p5-20
NAS, Elen; AZEVEDO, Telma; LONGH, Fernando; TERCEIRO, Luciana; VALENTE, Tânia. Future visions for a decolonized future of HCI: thick descriptions of a survey interaction to discuss the colonization of imagination. INTERNATIONAL CONFERENCE ON HUMANCOMPUTER INTERACTION, Cham, p. 109-116, 2023b. DOI: https://doi.org/10.17613/30bc-6j76. DOI: https://doi.org/10.1007/978-3-031-35989-7_13
NASCIMENTO, Elen Cristina Carvalho. Reflexões bioéticas na era da inteligência artificial. In: CASTRO, João Cardoso; NIEMEYER-GUIMARÃES, Márcio; SIQUEIRA-BATISTA, Rodrigo (ed.). Caminhos da bioética. Teresópolis: Editora Unifeso, 2019. p. 345-362.
NASCIMENTO, Elen Cristina Carvalho. Arte eletrônica: elo perdido entre ciência, design e tecnologia. 2017. Dissertação (Mestrado em Design) – Pontifícia Universidade Católica do Rio de Janeiro, Rio de Janeiro, 2017. Disponível em: https://www.maxwell.vrac.pucrio.br/30067/30067.PDF. Acesso em: 14 mar. 2024.
NOBLE, Safiya Umoja. Algorithms of oppression. New York: New York University Press, 2018.
OECD – ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. AI principles overview. Paris: OCDE.AI, 2019. Disponível em: https://oecd.ai/en/ai-principles. Acesso em: 14 mar. 2024.
O'NEIL, Cathy. Algoritmos de destruição em massa. São Paulo: Editora Rua do Sabão, 2021.
O'NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown Publishers, 2016.
ONU – ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Declaração universal dos direitos humanos. Paris: ONU, 1948. Disponível em: https://declaracao1948.com.br/declaracaouniversal/declaracao-direitos-humanos/. Acesso em: 14 mar. 2016.
RAJI, Inioluwa Deborah; CHOCK, Sasha Costanza; BUOLAMWINI, Drjoy. Change from the outside: towards credible third-party audits of AI systems. MacArthur Foundation, Chicago, 7 jun. 2023. Disponível em: https://www.macfound.org/press/grantee-publications/outsidescrutiny-to-change-ai-systems. Acesso em: 14 mar. 2024.
SIMONDON, Gilbert. L’individu et sa genèse physico-biologique. Grenoble: Éditions Jérome Millon, 1995.
TADDEO, Mariarosaria; FLORIDI, Luciano. How AI can be a force for good. Science, Washington, D.C, v. 361, n. 6404, p. 751-752, 2018. DOI 10.1126/science.aat5991. DOI: https://doi.org/10.1126/science.aat5991
UNESCO – THE UNITED NATIONS EDUCATIONAL, SCIENTIFIC AND CULTURAL ORGANIZATION. Recommendations on the ethics of artificial intelligence. Paris: UNESCO, 2023. Disponível em: https://www.unesco.org/en/articles/recommendation-ethics-artificialintelligence. Acesso em: 14 mar. 2024.
ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: Public Affairs, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Elen Nas
![Creative Commons License](http://i.creativecommons.org/l/by/4.0/88x31.png)
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Os direitos autorais relativos aos artigos publicados em Mediações são do(a)s autore(a)s; solicita-se aos(às) autore(a)s, em caso de republicação parcial ou total da primeira publicação, a indicação da publicação original no periódico.
Mediações utiliza a licença Creative Commons Attribution 4.0 International, que prevê Acesso Aberto, facultando a qualquer usuário(a) a leitura, o download, a cópia e a disseminação de seu conteúdo, desde que adequadamente referenciado.
As opiniões emitidas pelo(a)s autore(a)s dos artigos são de sua exclusiva responsabilidade.
Dados de financiamento
-
Universidade de São Paulo
Números do Financiamento Comitê Gestor da Internet no Brasil/IEA-USP (Projeto 642)