PRIVACIDADE E SEGURANÇA PÚBLICA

NOTAS SOBRE OS LIMITES JURÍDICOS À VIGILÂNCIA DO ESTADO

Autores

  • Giovani Saavedra Universidade Mackenzie - SP
  • Juliana Abrusio Universidade Presbiteriana Mackenzie
  • Chiara Battaglia Tonin Universidade Presbiteriana Mackenzie

Palavras-chave:

Vigilância, Privacidade, Algoritmos, Segurança Pública

Resumo

Este texto trata do ecossistema de privacidade e proteção de dados brasileiro. Debate a necessidade de ponderação de direitos fundamentais por parte do Estado quando do emprego de tecnologia, notadamente algoritmos em que são empregadas técnicas de aprendizado de máquina, em vigilância para execução de políticas relacionadas à segurança pública. Por fim, analisa os riscos e desafios relacionadas ao uso de algoritmos de forma inclusiva e não discriminatória.

Biografia do Autor

Giovani Saavedra, Universidade Mackenzie - SP

Professor do Programa de Pós-Graduação em Direito Político e Econômico da Universidade Presbiteriana Mackenzie (SP). Doutor em Direito e Filosofia pela Johann Wolfgang Goethe – Universidade de Frankfurt am Main. Mestre e graduado em Direito pela PUCRS. Sócio-fundador do Saavedra &Gottschefsky – Sociedade de Advogados.

Juliana Abrusio, Universidade Presbiteriana Mackenzie

Doutora em Direito pela Pontifícia Universidade Católica de São Paulo (2019). Mestra em Sistema Jurídico Romanístico, Unificação do Direito e Direito da Integração pela Università degli Studi di Roma
Tor Vergata (2006), com diploma revalidado pela Universidade de São Paulo (2008). Pós-graduada em Direito Empresarial pela Universidade Presbiteriana Mackenzie (2003). Graduada em Direito pela Universidade Presbiteriana Mackenzie (2001). Professora da Faculdade de Direito e docente permanente do Programa de Pós-Graduação Stricto Sensu em Direito Político e Econômico da Universidade Presbiteriana Mackenzie. 

Chiara Battaglia Tonin, Universidade Presbiteriana Mackenzie

Mestranda em Direito Político e Econômico na Universidade Presbiteriana Mackenzie. Especialista em Direitos dos Contratos pela Fundação Getúlio Vargas. Pesquisadora no IBChain – The Blockchain Authority e do Grupo de Pesquisa “Governança Corporativa, Compliance e Proteção de Dados” da Universidade Presbiteriana Mackenzie.

Referências

ABRUSIO, Juliana. Proteção de Dados na Cultura do Algoritmo. São Paulo: D´plácido, 2020.

ACHIUME, T.; UN. HUMAN RIGHTS COUNCIL. SPECIAL RAPPORTEUR ON CONTEMPORARY FORMS OF RACISM, R. D. Racial discrimination and emerging digital technologies :: a human rights analysis : report of the Special Rapporteur on Contemporary Forms of Racism, Racial Discrimination, Xenophobia and Related Intolerance. 18 jun. 2020.

ALONSO, Félix Ruiz. Pessoa, intimidade e o direito à privacidade. In. MARTINS, Ives Gandra da Silva; PEREIRA JR., Antonio Jorge (coord.). Direito à Privacidade. Aparecida, SP: Ideia & Letras; São Paulo: Centro de Extensão Universitária, 2005.

ANANNY, Mike; CRAWFORD, Kate. Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society, 2016

ARENDT, Hannah. A Condição Humana. 10ª ed. Rio de Janeiro: Forense Universitária, 2007

AZEVEDO, Álvaro Villaça. Teoria Geral do Direito Civil: Parte Geral. São Paulo: Atlas, 2012.

BAUMAN, Zygmunt.; LYON, David. Vigilância líquida. Rio de Janeiro: Zahar, 2013.

BITTAR, C. A. Os direitos da personalidade - 8ª edição de 2015. 8ª edição ed. Rio de Janeiro: Saraiva Jur, 2014.

BLUME, P. Data Protection and Privacy – Basic Concepts in a Changing World. v. 56, p. 151–164, 2010.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: Proceedings of the 1st Conference on Fairness, Accountability and Transparency. [s.l.]: PMLR, 2018, p. 77–91. Disponível em: <https://proceedings.mlr.press/v81/buolamwini18a.html>. Acesso em: 15 mar. 2024.

BRASIL. Código Civil. Lei nº 10.406, de 10 de janeiro de 2002. Disponível em: < http://www.planalto.gov.br/ccivil_03/leis/2002/L10406.htm>. Acesso em: 24 Nov. 2023.

BRASIL. Código de Defesa do Consumidor. Lei nº 8.078, de 11 de setembro de 1990. Disponível em: < http://www.planalto.gov.br/ccivil_03/leis/L8078.htm>. Acesso em: 30 Nov. 2023.

BRASIL. Código Penal (1940). Decreto-lei no 2.848, de 7 de dezembro de 1940. Disponível em: < https://www.planalto.gov.br/ccivil_03/decreto-lei/del2848compilado.htm >. Acesso em: 27 nov. 2023.

BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Texto constitucional promulgado em 5 de outubro de 1988, atualizada até a Emenda Constitucional

nº 131/2023. Disponível em: < https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm >. Acesso em: 27 nov. 2023.

BRASIL. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Disponível em: < https://www.planalto.gov.br/ccivil_03/constituicao/Emendas/Emc/emc115.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei nº 12.414, de 9 de junho de 2011. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12414.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei nº 12.527, de 18 de novembro de 2011. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12527.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm >. Acesso em: 27 Nov. 2023.

BRASIL. Lei Geral de Proteção de Dados Pessoais. Lei nº 13.709, de 14 de agosto de 2018. Disponível em: < https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm >. Acesso em 27 Nov. 2023.

BROWN, Shea.; DAVIDOVIC, Jovana.; HASAN, Ali. The algorithm audit: Scoring the algorithms that score us. Big Data & Society, v. 8, n. 1, p. 205395172098386, jan. 2021. Disponível em: <https://doi.org/10.1177/2053951720983865>. Acesso em: 11 nov. 2022.

BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 205395171562251, 5 jan. 2016. Disponível em: <https://doi.org/10.1177/2053951715622512>. Acesso em: 30 Nov. 2023.

CASTELLS, Manuel; MAJER, Roneide Venancio. A sociedade em rede. 24ª edição. Rio de Janeiro: Paz & Terra, 2023

EUROPEAN PARLIAMENT AND COUNCIL. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain union legislative acts. 2021.

FLORIDI, Luciano; COWLS, Josh. A Unified Framework of Five Principles for AI in Society. Issue 1, 23 jun. 2019. Disponível em: <https://doi.org/10.1162/99608f92.8cd550d1>. Acesso em: 30 Nov. 2022.

FLORIDI, Luciano.; TADDEO, Mariarosaria. What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, v. 374, n. 2083, p. 20160360, 28 dez. 2016. Disponível em: <https://doi.org/10.1098/rsta.2016.0360>. Acesso em: 30 Nov. 2022.

GODOY, Miguel de. Col. direito, desenvolvimento e justiça : série produção científica - Constitucionalismo e democracia : uma leitura a partir de Carlos Santiago Nino e Roberto Gargarella, 1ª Edição. São Paulo: Saraiva, 2012.

GUTIERREZ, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências de accountability. In: FRAZÃO, Ana de Oliveira; MULHOLLAND, Caitlin et al. (coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. rev. atual. e ampl. São Paulo: Revista dos Tribunais, 2020.

HONNETH, Axel. Das Recht der Freiheit. Grundriß einer demokratischen Sittlichkeit. 3. Ed. Frankfurt am Main: Suhrkamp, 2017.

LABATI, Ruggero Donida; GENOVESE, Angelo; MUÑOZ, Enrique; et al. Biometric Recognition in Automated Border Control: A Survey. ACM Computing Surveys, v. 49, n. 2, p. 24:1-24:39, 2016.

LOPES, Hugo Ferrinho. Os conceitos de liberdade e segurança em thomas Hobbes: conjunção ou disjunção? In: Observatório Político. Working Paper #59. Março 2016. (Disponível em: https://www.observatoriopolitico.pt/wp-content/uploads/2016/03/WP_59_HFL.pdf. Acesso em 01 de maio de 2024).

MARQUES, José Oscar de Almeida. Forçar-nos a ser livres? O paradoxo da liberdade no Contrato social de Jean-Jacques Rousseau. In: Cadernos de Ética e Filosofia Política, 1(16), ano 2019 99-114 (Disponível em: https://www.revistas.usp.br/cefp/article/view/82596, acessado em: 01 de maio de 2024).

MELO, Paulo Victor; SERRA, Paulo. Tecnologia de Reconhecimento Facial e Segurança Pública nas Capitais Brasileiras: Apontamentos e Problematizações. Comunicação e sociedade, n. 42, p. 205–220, 2022.

MENDES, Gilmar Ferreira. Curso de direito constitucional. 4ª ed. São Paulo: Saraiva, 2009.

MENDES, Laura Schertel. Privacidade, proteção de dados e defesa do consumidor. São Paulo: Editora Saraiva, 2014.

MITTELSTADT, Brent Daniel; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; FLORIDI, Luciano. The ethics of algorithms: mapping the debate. Big Data & Society, jul./dez. 2016. p. 3 e ss.

PASQUALE, F. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge, Massachusetts: Harvard University Press, 2015.

POPPER, Karl R. Conjecturas e refutações. Brasília: Editora Universidade de Brasília, 1982.

ROBERTS, Huw; COWLS, Josh; MORLEY, Jessica; et al. The Chinese approach to artificial intelligence: an analysis of policy, ethics, and regulation. AI & SOCIETY, v. 36, n. 1, p. 59–77, 2021;

RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. (Org.) Maria Celina Bodin de Moraes. Tradução de Danilo Doneda e Luciana Cabral Doneda. Rio de Janeiro: Renovar, 2008.

ROSENAU, James. Governança, Ordem e Transformação na Política Mundial. In: James Rosenau; Ernst-Otto Czempiel (Orgs.). Governança sem Governo: ordem e transformação na política mundial. Trad. Sérgio Bath. Brasília, DF: Editora UnB/Imprensa Oficial do Estado, 2000.

RUTOWITSCH BECK, César A. M. .; MANZONI BOFF, Murilo.; COVATTI PIAIA, Thami. Lei geral de proteção de dados e a revisão de decisões automatizadas: os mecanismos de regulação baseados em uma inteligência artificial ética. Revista Eletrônica Direito e Política, [S. l.], v. 17, n. 2, p. 509–546, 2022. DOI: 10.14210/rdp.v17n2.p509-546. Disponível em: https://periodicos.univali.br/index.php/rdp/article/view/19067. Acesso em: 30 Nov. 2023

SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais: uma teoria geral dos direitos fundamentais na perspectiva constitucional. 12ª ed. Porto Alegre: Livraria do Advogado, 2015.

SARLET, Ingo Wolfgang. Proteção de dados pessoais como direito fundamental na constituição federal brasileira de 1988: contributo para a construção de uma dogmática constitucionalmente adequada. Revista Brasileira de Direitos Fundamentais & Justiça, v. 14, n. 42, p. 179–218, 10 ago. 2020.

SARLET, Ingo Wolfgang; SAAVEDRA, Giovani Agostini. FUNDAMENTOS JUSFILOSÓFICOS E ÂMBITO DE PROTEÇÃO DO DIREITO FUNDAMENTAL À PROTEÇÃO DE DADOS PESSOAIS. Direito Público, v. 17, n. 93, 2020. Disponível em: <https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/4315>. Acesso em: 12 maio 2024.

SCHERER, Matthew U.. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Journal Of Law & Technology. [S. L.], p. 354-400. set. 2016.

SELBST, A. D.; BAROCAS, S. The Intuitive Appeal of Explainable Machines. Rochester, NY, 2 mar. 2018. Disponível em: <https://papers.ssrn.com/abstract=3126971>. Acesso em: 11 mar. 2024

SERRANÍA, Vanessa Jiménez; ABRUSIO, Juliana. BIG DATA E A COMPETIÇÃO BASEADA EM DADOS. Revista de Direito Brasileira, v. 28, n. 11, p. 387, 2021.

SILVEIRA, S. A. Governo dos Algoritmos. Revista de Políticas Públicas, v. 21, n. 1, p. 267, jul. 2017.

SOLAROVA, Sara; PODROUŽEK, Juraj; MESARČÍK, Matúš; et al. Reconsidering the regulation of facial recognition in public spaces. Ai and Ethics, v. 3, n. 2, p. 625–635, 2023.

SOLOVE, Daniel J. The Myth of the Privacy Paradox. George Washington Law Review, v. 89, n. 1, p. 1–51, 2021.

SYLVESTRE, Fábio Zech. O direito fundamental à privacidade em face da administração pública: uma análise à luz da teoria geral dos direito fundamentais: In: LIMA, Jorge (coord.). Direitos fundamentais: uma perspectiva de futuro. São Paulo: Atlas, 2013.

TSAMADOS, Andreas; AGGARWAL, Nikita; COWLS, Josh; et al. The Ethics of Algorithms: Key Problems and Solutions. 2020. Disponível em: <https://papers.ssrn.com/abstract=3662302>. Acesso em: 12 maio 2024.

VIEIRA, Tatiana Malta. O direito à privacidade na sociedade da informação: efetividade desse direito fundamental diante dos avanços da tecnologia da informação. Porto Alegre: Sergio Antonio Fabris Ed., 2007,

ZUBOFF, Shoshana. The Age of Suveillance Capitalism. Public Affairs: New York, 2019.

Downloads

Publicado

2024-11-03

Edição

v. 18 n. 2 (2024): Revista Direito Mackenzie

Seção

Poder Econômico e seus limites jurídicos

Licença

Copyright (c) 2024 Giovani Saavedra, Juliana Abrusio, Chiara Battaglia Tonin

Creative Commons License
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.

Os direitos autorais dos artigos publicados na Revista Direito Mackenzie pertencem aos autores, que concedem à Universidade Presbiteriana Mackenzie os direitos de publicação do conteúdo, sendo que a cessão passa a valer a partir da submissão do artigo, ou trabalho em forma similar, ao sistema eletrônico de publicações institucionais. A revista se reserva o direito de efetuar, nos originais, alterações de ordem normativa, ortográfica e gramatical, com vistas a manter o padrão culto da língua, respeitando, porém, o estilo dos autores. O conteúdo relatado e as opiniões emitidas pelos autores dos artigos são de sua exclusiva responsabilidade.