Direito, inovação tecnológica e inteligência artificial na saúde: análise do setor e dos standards regulatórios

Gabrielle Jacobi Kölling; Joedson  de Souza Delgado

doi:10.5433/2178-8189.2025v29n2p80-91

Authors

Gabrielle Jacobi Kölling Mackenzie Presbyterian University https://orcid.org/0000-0003-2225-555X
Joedson de Souza Delgado Universidade de Brasília (UnB) http://orcid.org/0000-0002-0968-2058

DOI:

https://doi.org/10.5433/2178-8189.2025v29n2p80-91

Keywords:

technological innovation, artificial intelligence, risk management, health risk, health services

Abstract

This article examines the legal impact of regulating Artificial Intelligence (AI) on health, focusing on Bill 2.338 of 2023, currently under discussion in the Senate. The analysis highlights that AI not only creates risks, but also increases existing ones, requiring constant state supervision. Using the qualitative-dialectical method and with reference to Stefano Rodotà, the text argues that the use of AI should be transparent and proportional to the risks and benefits involved. The academic debate on the governance of AI in health contributes to policymaking. The study concludes that if technology increases risks, its application should be avoided in experimental contexts, recommending strict guidelines for medical research with human beings.

Downloads

Download data is not yet available.

Author Biographies

Gabrielle Jacobi Kölling, Mackenzie Presbyterian University

Docente da graduação em Direito da Universidade Presbiteriana Mackenzie (UPM).Pós-doutorado em Direito pelo Centro Universitário do Distrito Federal (UDF).Doutora em Direito pela Universidade do Vale do Rio dos Sinos (UNISINOS). Mestre em Direito pela Universidade do Vale do Rio dos Sinos (Unisinos). Pós-doutorado em Direito pelo Centro Universitário do Distrito Federal (UDF).

Joedson de Souza Delgado, Universidade de Brasília (UnB)

Doutorando em Direito na Universidade de Brasília (UnB). Mestre em Direito pelo Centro Universitário de Brasília (CEUB). Especialista em Direito Sanitário pela Fundação Oswaldo Cruz (Fiocruz). Servidor público na Agência Nacional de Vigilância Sanitária (Anvisa).

References

ALMEIDA, Maria Candida Carvalho Monteiro de. Regulação da inteligência artificial baseada em riscos e a sua responsividade. Revista de Direito Setorial e Regulatório, Brasília, DF, v. 9, n. 2, p. 44-72, set. 2023. Disponível em: https://periodicos.unb.br/index.php/rdsr/article/view/43251. Acesso em: 17 mar. 2025.

ANDRADE, Gabriela; RÖHE, Anderson. A inteligência artificial e os direitos fundamentais. Revista Digital de Tecnologias Cognitivas, São Paulo, n. 28, p. 45-55, jun. 2023. DOI: https://doi.org/10.23925/1984-3585.2023i28p45-55.

ARANHA, Marcio. Manual de direito regulatório: fundamentos de direito regulatório. 6. ed. London: Laccademia Publishing, 2021. E-book. Disponível em: https://www.amazon.com.br/Manual-Direito-Regulat%C3%B3rio-Fundamentos-ebook/dp/B0CCMYFQNG. Acesso em: 17 mar. 2025.

ASSI, Marcos. Governança, riscos e compliance: mudando a conduta nos negócios. São Paulo: Saint Paul Editora, 2019.

BALDWIN, Robert; BLACK, Julia. Really responsive regulation. Amsterdam: LSE Legal Studies, 2007. (Working Paper, 15). DOI: http://dx.doi.org/10.2139/ssrn.1033322.

BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na regulação de IA: o local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2023. Disponível em: https://www.dataprivacybr.org/wp-content/uploads/2023/12/dataprivacy_nota-tecnica-temas-regulatorios.pdf. Acesso em: 18 mar. 2025.

BLACK, Julia. Decentring regulation: understanding the role of regulation and self-regulation in a 'post-regulatory world'. Current Legal Problems, Oxford, v. 54, n. 1, p. 103-146, Dec. 2001. DOI: https://doi.org/10.1093/clp/54.1.103.

BLACK, Julia. Risk-based regulation: choices, practices and lessons being learnt. In: OECD - ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT. Risk and regulatory policy: improving the governance of risk. Paris: OECD Publishing, 2010. Disponível em: https://www.oecd.org/en/publications/risk-and-regulatory-policy_9789264082939-en.html. Acesso em: 10 mar. 2025.

BOBBIO, Norberto. Era dos direitos. tradução de Carlos Nelson Coutinho. 8. ed. Rio de Janeiro: Elsevier, 2004.

BORGES, Luiz Ferreira Xavier; SERRÃO, Carlos Fernando de Barros. Aspectos de governança corporativa moderna no Brasil. Revista do BNDES, Rio de Janeiro, v. 12, n. 24, p. 111-148, dez. 2005. Disponível em: https://web.bndes.gov.br/bib/jspui/handle/1408/9643. Acesso em: 17 mar. 2025.

BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei geral de proteção de dados pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 10 mar. 2025.

BRASIL. Ministério da Saúde. Estratégia de saúde digital para o Brasil 2020-2028 (ESD28). Brasília, DF: MS, 2020. Disponível em: https://t.ly/I_Umw. Acesso em: 10 mar. 2025.

BRASIL. Projeto de lei n. 2.338, de 2023. Dispõe sobre o uso da inteligência artificial. Brasília, DF: Câmara dos Deputados, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 10 mar. 2025.

BRITTO, Ana Lucia Nogueira de Paiva; LIMA, Sonaly Cristina Rezende Borges de; HELLER, Léo; CORDEIRO, Berenice de Souza. Da fragmentação à articulação: a política nacional de saneamento e seu legado histórico. Revista Brasileira de Estudos Urbanos e Regionais, Presidente Prudente, v. 14, n. 1, p. 65-83, maio 2012. DOI: https://doi.org/10.22296/2317-1529.2012v14n1p65.

CALAPEZ, Tiago Miguel dos Santos. O impacto da inteligência artificial na indústria farmacêutica e no setor da saúde. 2024. Dissertação (Mestrado Integrado em Ciências Farmacêuticas) - Instituto Universitário Egas Moniz, Almada, 2024. Disponível em: http://hdl.handle.net/10400.26/53514. Acesso em: 10 mar. 2025.

CORKETT, Tony Peter. Designing a new software system for the NHS: applying action design research work in an institutional setting. 2021. Thesis (Doctor of Business Administration) - University of Warwick, Coventry, 2021. Disponível em: https://wrap.warwick.ac.uk/id/eprint/164725/. Acesso em: 10 mar. 2025.

COZMAN, Fabio Gagliardi; KAUFMAN, Dora. Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, São Paulo, n. 135, p. 195-210, dez. 2022. DOI: https://doi.org/10.11606/issn.2316-9036.i135p195-210.

DOURADO, Daniel de Araujo; AITH, Fernando Mussa Abujamra. A regulação da inteligência artificial na saúde no Brasil começa com a lei geral de proteção de dados pessoais. Revista de Saúde Pública, São Paulo, v. 56, p. 80, set. 2022. DOI: https://doi.org/10.11606/s1518-8787.2022056004461.

FISHER, Elizabeth. Risk regulation and administrative constitutionalism. Oxford; Oregon: Hart Publishing, 2007.

GOMES, Hermes Oliveira. Inteligência artificial na saúde pública e privada é possível?. Revista de Ciências Médicas e Biológicas, Salvador, v. 17, n. 3, p. 285-286, jun. 2019. DOI: https://doi.org/10.9771/cmbio.v17i3.32103.

GONÇALVES FILHO, Péricles. Ciência ou democracia: quem tem a última palavra na regulação de riscos?. Portal Fundação Getúlio Vargas, Rio de Janeiro, 15 jul. 2024. Disponível em: https://portal.fgv.br/artigos/ciencia-ou-democracia-quem-tem-ultima-palavra-regulacao-riscos. Acesso em: 18 mar. 2025.

LEMES, Marcelle Martins; LEMOS, Amanda Nunes Lopes Espiñeira. O uso da inteligência artificial na saúde pela administração pública brasileira. Cadernos Ibero-Americanos de Direito Sanitário, Brasília DF, v. 9, n. 3, p. 166-182, set. 2020. DOI: https://doi.org/10.17566/ciads.v9i3.684.

LOBO, Luiz Carlos. Inteligência artificial e medicina. Revista Brasileira de Educação Médica, Brasília DF, v. 41, n. 2, p. 185-193, abr. 2017. DOI: http://dx.doi.org/10.1590/1981-52712015v41n2esp.

LUHMANN, Niklas; GIORGI, Raffaele de. Teoria della società. 11. ed. Milano: Franco Angeli, 2003.

MORAES, Thiago. Regulatory sandboxes as tools for ethical and responsible innovation of artificial intelligence and their synergies with responsive regulation: the quest for AI sovereignty, transparency and accountability-official outcome of the un IGF data and artificial intelligence governance coalition. Amsterdam: Elsevier, 2023. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4609613. Acesso em: 17 mar. 2025.

NOBRE, Guilherme Fráguas. Comunicação política e tecnologia linguística: abordagem quantitativa da língua natural com fins fáticos e conativos. 2002. Tese (Doutorado em Ciências da Comunicação) - Universidade de São Paulo, São Paulo, 2002. Disponível em: https://t.ly/SUJJv. Acesso em: 10 mar. 2025.

PASQUALE III, Frank Anthony. The price of autonomy: liability standards for complementary and substitutive medical robotics and artificial intelligence. Ius et Praxis, Talca, v. 28, n. 1, mar. 2022. Disponível em: https://www.iusetpraxis.utalca.cl/wp-content/uploads/2022/03/02.-Pasquale-Frank_pdf.pdf. Acesso em: 10 mar. 2025.

PEREIRA, João José Rodrigues. Modelos de data mining para multi-previsão: aplicação à medicina intensiva. 2005. 255f. Dissertação (Mestrado em Sistemas de Informação) - Universidade do Minho, Braga, 2005. Disponível em: https://repositorium.sdum.uminho.pt/handle/1822/25914. Acesso em: 12 mar. 2025.

RODOTÀ, Stefano. Data protection as a fundamental right. In: GUTWIRTH, Serge. Reinventing data protection?. Dordrecht: Springer Nature, 2009. p. 77-82.

RODOTÀ, Stefano. Democracy, innovation, and the information society. In: GOUJON, Philippe; LAVELLE, Silviano; DUQUENOY, Penny; KIMPPA, Kai; LAURENT, Véronique (ed.). The information society: innovation, legitimacy, ethics and democracy in honor of professor Jacques Berleur Si. Dordrecht: Springer Nature, 2007. p. 17-26.

RODOTÀ, Stefano. Pós-humano. Revista Brasileira de Direito Civil, Belo Horizonte, v. 27, p. 113-144, jan./mar. 2021. Disponível em: https://rbdcivil.ibdcivil.org.br/rbdc/article/view/712. Acesso em: 25 mar. 2025.

ROSA, Edson Carlos Zaher. O impacto da inteligência artificial e da robótica no ensino da medicina e cirurgia. Contemporânea, São Carlos, v. 4, n. 10, e6063, out. 2024. DOI: https://doi.org/10.56083/RCV4N10-062.

SANDEL, Michael J. O descontentamento da democracia: uma nova abordagem para tempos periculosos. Tradução de Livia Almeida. Rio de Janeiro: Civilização Brasileira, 2023.

SANTOS, Hugo; LOPES, Antonio Alves. Inteligência Artificial nas ciências da saúde: oportunidades, desafios e perspetivas futuras. Revista Científica Internacional da Rede Académica das Ciências da Saúde da Lusofonia, Coimbra, v. 6, n. 1, p. 1-9, maio 2024. DOI: https://doi.org/10.51126/revsalus.v6i1.653.

SELZNICK, Philip. Focusing organizational research on regulation. In: NOLL, Roger G. (ed.). Regulatory policy and the social sciences. Berkeley: University of California Press, 1985.