PRIVACY AND PUBLIC SECURITY:

NOTES ON THE LEGAL LIMITS TO STATE SURVEILLANCE WITH THE USE OF ARTIFICIAL INTELLIGENCE

Authors

  • Giovani Saavedra Universidade Mackenzie - SP
  • Juliana Abrusio Universidade Presbiteriana Mackenzie
  • Chiara Battaglia Tonin Universidade Presbiteriana Mackenzie

Keywords:

Surveillance; privacy; algorithms; public security.

Abstract

This paper deals with the Brazilian privacy and data protection ecosystem. Debates the need for the State to consider fundamental rights when using technology, notably algorithms, in surveillance to implement policies related to public security. Finally, it analyzes the risks and challenges related to the use of algorithms in an inclusive and non-discriminatory way.

Author Biographies

Giovani Saavedra, Universidade Mackenzie - SP

Professor do Programa de Pós-Graduação em Direito Político e Econômico da Universidade Presbiteriana Mackenzie (SP). Doutor em Direito e Filosofia pela Johann Wolfgang Goethe – Universidade de Frankfurt am Main. Mestre e graduado em Direito pela PUCRS. Sócio-fundador do Saavedra &Gottschefsky – Sociedade de Advogados.

Juliana Abrusio, Universidade Presbiteriana Mackenzie

Doutora em Direito pela Pontifícia Universidade Católica de São Paulo (2019). Mestra em Sistema Jurídico Romanístico, Unificação do Direito e Direito da Integração pela Università degli Studi di Roma
Tor Vergata (2006), com diploma revalidado pela Universidade de São Paulo (2008). Pós-graduada em Direito Empresarial pela Universidade Presbiteriana Mackenzie (2003). Graduada em Direito pela Universidade Presbiteriana Mackenzie (2001). Professora da Faculdade de Direito e docente permanente do Programa de Pós-Graduação Stricto Sensu em Direito Político e Econômico da Universidade Presbiteriana Mackenzie. 

Chiara Battaglia Tonin, Universidade Presbiteriana Mackenzie

Mestranda em Direito Político e Econômico na Universidade Presbiteriana Mackenzie. Especialista em Direitos dos Contratos pela Fundação Getúlio Vargas. Pesquisadora no IBChain – The Blockchain Authority e do Grupo de Pesquisa “Governança Corporativa, Compliance e Proteção de Dados” da Universidade Presbiteriana Mackenzie.

References

ABRUSIO, Juliana. Proteção de Dados na Cultura do Algoritmo. São Paulo: D´plácido, 2020.

ACHIUME, T.; UN. HUMAN RIGHTS COUNCIL. SPECIAL RAPPORTEUR ON CONTEMPORARY FORMS OF RACISM, R. D. Racial discrimination and emerging digital technologies :: a human rights analysis : report of the Special Rapporteur on Contemporary Forms of Racism, Racial Discrimination, Xenophobia and Related Intolerance. 18 jun. 2020.

ALONSO, Félix Ruiz. Pessoa, intimidade e o direito à privacidade. In. MARTINS, Ives Gandra da Silva; PEREIRA JR., Antonio Jorge (coord.). Direito à Privacidade. Aparecida, SP: Ideia & Letras; São Paulo: Centro de Extensão Universitária, 2005.

ANANNY, Mike; CRAWFORD, Kate. Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society, 2016

ARENDT, Hannah. A Condição Humana. 10ª ed. Rio de Janeiro: Forense Universitária, 2007

AZEVEDO, Álvaro Villaça. Teoria Geral do Direito Civil: Parte Geral. São Paulo: Atlas, 2012.

BAUMAN, Zygmunt.; LYON, David. Vigilância líquida. Rio de Janeiro: Zahar, 2013.

BITTAR, C. A. Os direitos da personalidade - 8ª edição de 2015. 8ª edição ed. Rio de Janeiro: Saraiva Jur, 2014.

BLUME, P. Data Protection and Privacy – Basic Concepts in a Changing World. v. 56, p. 151–164, 2010.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: Proceedings of the 1st Conference on Fairness, Accountability and Transparency. [s.l.]: PMLR, 2018, p. 77–91. Disponível em: <https://proceedings.mlr.press/v81/buolamwini18a.html>. Acesso em: 15 mar. 2024.

BRASIL. Código Civil. Lei nº 10.406, de 10 de janeiro de 2002. Disponível em: < http://www.planalto.gov.br/ccivil_03/leis/2002/L10406.htm>. Acesso em: 24 Nov. 2023.

BRASIL. Código de Defesa do Consumidor. Lei nº 8.078, de 11 de setembro de 1990. Disponível em: < http://www.planalto.gov.br/ccivil_03/leis/L8078.htm>. Acesso em: 30 Nov. 2023.

BRASIL. Código Penal (1940). Decreto-lei no 2.848, de 7 de dezembro de 1940. Disponível em: < https://www.planalto.gov.br/ccivil_03/decreto-lei/del2848compilado.htm >. Acesso em: 27 nov. 2023.

BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Texto constitucional promulgado em 5 de outubro de 1988, atualizada até a Emenda Constitucional

nº 131/2023. Disponível em: < https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm >. Acesso em: 27 nov. 2023.

BRASIL. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Disponível em: < https://www.planalto.gov.br/ccivil_03/constituicao/Emendas/Emc/emc115.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei nº 12.414, de 9 de junho de 2011. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12414.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei nº 12.527, de 18 de novembro de 2011. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12527.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei Geral de Proteção de Dados Pessoais. Lei nº 13.709, de 14 de agosto de 2018. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm >. Acesso em 27 Nov. 2023.

BROWN, Shea.; DAVIDOVIC, Jovana.; HASAN, Ali. The algorithm audit: Scoring the algorithms that score us. Big Data & Society, v. 8, n. 1, p. 205395172098386, jan. 2021. Disponível em: <https://doi.org/10.1177/2053951720983865>. Acesso em: 11 nov. 2022.

BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 205395171562251, 5 jan. 2016. Disponível em: <https://doi.org/10.1177/2053951715622512>. Acesso em: 30 Nov. 2023.

CASTELLS, Manuel; MAJER, Roneide Venancio. A sociedade em rede. 24ª edição. Rio de Janeiro: Paz & Terra, 2023

EUROPEAN PARLIAMENT AND COUNCIL. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain union legislative acts. 2021.

FLORIDI, Luciano; COWLS, Josh. A Unified Framework of Five Principles for AI in Society. Issue 1, 23 jun. 2019. Disponível em: <https://doi.org/10.1162/99608f92.8cd550d1>. Acesso em: 30 Nov. 2022.

FLORIDI, Luciano.; TADDEO, Mariarosaria. What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, v. 374, n. 2083, p. 20160360, 28 dez. 2016. Disponível em: <https://doi.org/10.1098/rsta.2016.0360>. Acesso em: 30 Nov. 2022.

GODOY, Miguel de. Col. direito, desenvolvimento e justiça : série produção científica - Constitucionalismo e democracia : uma leitura a partir de Carlos Santiago Nino e Roberto Gargarella, 1ª Edição. São Paulo: Saraiva, 2012.

GUTIERREZ, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências de accountability. In: FRAZÃO, Ana de Oliveira; MULHOLLAND, Caitlin et al. (coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. rev. atual. e ampl. São Paulo: Revista dos Tribunais, 2020.

HONNETH, Axel. Das Recht der Freiheit. Grundriß einer demokratischen Sittlichkeit. 3. Ed. Frankfurt am Main: Suhrkamp, 2017.

LABATI, Ruggero Donida; GENOVESE, Angelo; MUÑOZ, Enrique; et al. Biometric Recognition in Automated Border Control: A Survey. ACM Computing Surveys, v. 49, n. 2, p. 24:1-24:39, 2016.

LOPES, Hugo Ferrinho. Os conceitos de liberdade e segurança em thomas Hobbes: conjunção ou disjunção? In: Observatório Político. Working Paper #59. Março 2016. (Disponível em: https://www.observatoriopolitico.pt/wp-content/uploads/2016/03/WP_59_HFL.pdf. Acesso em 01 de maio de 2024).

MARQUES, José Oscar de Almeida. Forçar-nos a ser livres? O paradoxo da liberdade no Contrato social de Jean-Jacques Rousseau. In: Cadernos de Ética e Filosofia Política, 1(16), ano 2019 99-114 (Disponível em: https://www.revistas.usp.br/cefp/article/view/82596, acessado em: 01 de maio de 2024).

MELO, Paulo Victor; SERRA, Paulo. Tecnologia de Reconhecimento Facial e Segurança Pública nas Capitais Brasileiras: Apontamentos e Problematizações. Comunicação e sociedade, n. 42, p. 205–220, 2022.

MENDES, Gilmar Ferreira. Curso de direito constitucional. 4ª ed. São Paulo: Saraiva, 2009.

MENDES, Laura Schertel. Privacidade, proteção de dados e defesa do consumidor. São Paulo: Editora Saraiva, 2014.

MITTELSTADT, Brent Daniel; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; FLORIDI, Luciano. The ethics of algorithms: mapping the debate. Big Data & Society, jul./dez. 2016. p. 3 e ss.

PASQUALE, F. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge, Massachusetts: Harvard University Press, 2015.

POPPER, Karl R. Conjecturas e refutações. Brasília: Editora Universidade de Brasília, 1982.

ROBERTS, Huw; COWLS, Josh; MORLEY, Jessica; et al. The Chinese approach to artificial intelligence: an analysis of policy, ethics, and regulation. AI & SOCIETY, v. 36, n. 1, p. 59–77, 2021;

RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. (Org.) Maria Celina Bodin de Moraes. Tradução de Danilo Doneda e Luciana Cabral Doneda. Rio de Janeiro: Renovar, 2008.

ROSENAU, James. Governança, Ordem e Transformação na Política Mundial. In: James Rosenau; Ernst-Otto Czempiel (Orgs.). Governança sem Governo: ordem e transformação na política mundial. Trad. Sérgio Bath. Brasília, DF: Editora UnB/Imprensa Oficial do Estado, 2000.

RUTOWITSCH BECK, César A. M. .; MANZONI BOFF, Murilo.; COVATTI PIAIA, Thami. Lei geral de proteção de dados e a revisão de decisões automatizadas: os mecanismos de regulação baseados em uma inteligência artificial ética. Revista Eletrônica Direito e Política, [S. l.], v. 17, n. 2, p. 509–546, 2022. DOI: 10.14210/rdp.v17n2.p509-546. Disponível em: https://periodicos.univali.br/index.php/rdp/article/view/19067. Acesso em: 30 Nov. 2023

SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais: uma teoria geral dos direitos fundamentais na perspectiva constitucional. 12ª ed. Porto Alegre: Livraria do Advogado, 2015.

SARLET, Ingo Wolfgang. Proteção de dados pessoais como direito fundamental na constituição federal brasileira de 1988: contributo para a construção de uma dogmática constitucionalmente adequada. Revista Brasileira de Direitos Fundamentais & Justiça, v. 14, n. 42, p. 179–218, 10 ago. 2020.

SARLET, Ingo Wolfgang; SAAVEDRA, Giovani Agostini. FUNDAMENTOS JUSFILOSÓFICOS E ÂMBITO DE PROTEÇÃO DO DIREITO FUNDAMENTAL À PROTEÇÃO DE DADOS PESSOAIS. Direito Público, v. 17, n. 93, 2020. Disponível em: <https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/4315>. Acesso em: 12 maio 2024.

SCHERER, Matthew U.. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Journal Of Law & Technology. [S. L.], p. 354-400. set. 2016.

SELBST, A. D.; BAROCAS, S. The Intuitive Appeal of Explainable Machines. Rochester, NY, 2 mar. 2018. Disponível em: <https://papers.ssrn.com/abstract=3126971>. Acesso em: 11 mar. 2024

SERRANÍA, Vanessa Jiménez; ABRUSIO, Juliana. BIG DATA E A COMPETIÇÃO BASEADA EM DADOS. Revista de Direito Brasileira, v. 28, n. 11, p. 387, 2021.

SILVEIRA, S. A. Governo dos Algoritmos. Revista de Políticas Públicas, v. 21, n. 1, p. 267, jul. 2017.

SOLAROVA, Sara; PODROUŽEK, Juraj; MESARČÍK, Matúš; et al. Reconsidering the regulation of facial recognition in public spaces. Ai and Ethics, v. 3, n. 2, p. 625–635, 2023.

SOLOVE, Daniel J. The Myth of the Privacy Paradox. George Washington Law Review, v. 89, n. 1, p. 1–51, 2021.

SYLVESTRE, Fábio Zech. O direito fundamental à privacidade em face da administração pública: uma análise à luz da teoria geral dos direito fundamentais: In: LIMA, Jorge (coord.). Direitos fundamentais: uma perspectiva de futuro. São Paulo: Atlas, 2013.

TSAMADOS, Andreas; AGGARWAL, Nikita; COWLS, Josh; et al. The Ethics of Algorithms: Key Problems and Solutions. 2020. Disponível em: <https://papers.ssrn.com/abstract=3662302>. Acesso em: 12 maio 2024.

VIEIRA, Tatiana Malta. O direito à privacidade na sociedade da informação: efetividade desse direito fundamental diante dos avanços da tecnologia da informação. Porto Alegre: Sergio Antonio Fabris Ed., 2007,

ZUBOFF, Shoshana. The Age of Suveillance Capitalism. Public Affairs: New York, 2019.

Downloads

Published

2024-11-03

Issue

Vol. 18 No. 2 (2024): Revista Direito Mackenzie

Section

Economic Power and its legal limits

License

Copyright (c) 2024 Giovani Saavedra, Juliana Abrusio, Chiara Battaglia Tonin

Creative Commons License

This work is licensed under a Creative Commons Attribution 4.0 International License.

The copyright of the articles published in Mackenzie Law Review belongs to the authors, who grant Mackenzie Presbyterian University the rights of publication of the contents, and the assignment takes effect upon submission of the article, or work in similar form, to the electronic system of institutional publications. The journal reserves the right to make normative, orthographic, and grammatical alterations to the originals, with the aim of maintaining the cultured standard of the language, respecting, however, the style of the authors. The content reported and the opinions expressed by the authors of the articles are their exclusive responsibility.