THE NECESSARY PROTECTION OF THE GENERAL RIGHT TO FREEDOM IN TIMES OF ALGORITHMIC MODULATION:
SOCIAL AND LEGAL RESPONSES
Keywords:
Right to Freedom, Social Media, Algorithmic ModulationAbstract
This research addresses algorithmic modulation on social media platforms and its impact on the right of individuals to freedom. The objective is to analyze the relationship between algorithmic modulation and the right to freedom, in order to present legal and social proposals that assist in the effective exercise of human freedom on social media, in the face of algorithmic modulation. The text is divided into three sections. The first section addresses the right of individuals to freedom. The second section contextualizes algorithmic modulation. The third and final section presents possible responses to the complex relationship between freedom and modulation. It uses the deductive approach method, as it starts from general conclusions about freedom as a right of individuals, and seeks to reach particular premises about possible paths of legal responses to the specific phenomenon of modulation. As a research technique, it employs a non-systematic bibliographic review of books and articles published in available electronic journals. As a result, two proposals were presented, one social and the other legal. The social section considers data activism to challenge power relations and modulatory practices. The legal system consists of the institutes of social function and consensus.
References
ADLER, M. J. The idea of freedom: a dialectical examination of the conceptions of freedom for The Institute for Philosophical Research. New York: Doubleday & Company, 1958. v. 1.
ALVES, M. A. S. “A resistência à governamentalidade algorítmica: condutas e contracondutas na era da informação”, In: MATOS, A. S. M. C. (org.). Ensaios de desobediência epistemocrítica: dimensões antagonistas na era das sujeições bio-político-cibernéticas. Belo Horizonte: Initia Via, 2019a. p. 95-117 (Série: Desobediências E Democracias Radicais: A potência comum dos direitos que vêm).
ALVES, M. A. S.; ANDRADE, O. M. “Autonomia individual em risco? Governamentalidade algorítmica e a constituição do sujeito”, Caderno Metropole, v. 24, n. 55, 2022, p. 1007-1023.
AMARAL, F. Direito civil: introdução. 7. ed. Rio de Janeiro: Renovar, 2008.
ANDRADE, O. M. A governamentalidade algorítmica: novos desafios para a democracia na sociedade da informação. 2022. 143 f. Dissertação (Mestrado em Direito) – Universidade Federal de Minas Gerais, Belo Horizonte 2022.
BERALDO, D.; MILAN, S. “From data politics to the contentious politics of data”, Big Data & Society, v. 6, n. 2, 2019, p. 1-11..
BERLIN, Isaiah. “Dois conceitos de liberdade”, In: HARDY, H.; BERLIN, I. Ideias políticas na era romântica: ascensão e influência no pensamento moderno. Trad. Rosaura Eichenberg. São Paulo: Companhia das Letras, 2009. p. 226-272.
BERLIN, I. “Dois conceitos de liberdade”, In: HARDY, H.; HASHEER, R. (org.). Estudos sobre a humanidade: uma antologia de ensaios. São Paulo: Companhia das Letras, 2002a. p. 226-272.
BERLIN, I. Dos conceptos de libertad. Recife: Titivillus, 2017. Ebook Kindle.
BERLIN, I. Estudos sobre a humanidade: uma antologia de ensaios. São Paulo: Companhia das Letras, 2002b.
BERLIN, I. Quatro ensaios sobre a liberdade. Brasília, DF: Ed. da Universidade de Brasília, 1981 (Coleção Pensamento Político).
BITTAR, C. A. Os direitos da personalidade. 8. ed. São Paulo: Saraiva, 2015.
BITTENCOURT, A. V. “O Liberalismo contestado: a crítica da liberdade negativa por Charles Taylor e Quentin Skinner”, Revista Habitus, v. 5, n. 1, mar. 2008, p. 5-16.
BOBBIO, N. Direito e estado no pensamento de Emanuel Kant. Trad. Alfredo Fait. 2. ed. São Paulo: Mandarim, 2000.
BOBBIO, N. Igualdade e liberdade. Trad. Carlos Nelson Coutinho. 2. ed. Rio de Janeiro: Ediouro, 1997.
BORGES, R. C. B. Direitos da personalidade e autonomia privada. 2. ed. São Paulo: Saraiva, 2007.
BOSCO, F.; CREEMERS, N.; FERRARIS, V.; GUAGNIN, D.; KOOPS, B. J.; VERMEERSCH, E. “Profiling technologies and fundamental rights an introduction” In: CREEMERS, N.; GUAGNIN, D.; KOOPS, B. J. Profiling technologies in practice: applications and impact on fundamental rights and values. The Netherlands: Legal Publishers, 2015a. p. 5-20.
BÜCHI, M.; FOSCH-BILLARONGA, E.; LUTZ, C.; TAMÒ-LARRIEUX, A.; VELIDI, S.; VILJOEN, S. “The chilling effects of algorithmic profiling: Mapping the issues”, Computer Law & Security Review, v. 36, 2020, p. 105367.
CAMPOS, R.; PEREIRA, I; SIMÕES, J. A. “Ativismo digital em Portugal: um estudo exploratório”, Sociologia, Problemas e Práticas, n. 82, 2016, p. 27-47.
CANTALI, F. B. Direito da personalidade: disponibilidade relativa, autonomia privada e dignidade humana. Porto Alegre: Livraria do Advogado, 2009.
CAPELO DE SOUSA, R. V. A. O direito geral de personalidade. Coimbra: Coimbra Editora, 2011.
CASTRO, E. Vocabulário de Foucault: um percurso pelos seus temas, conceitos e autores. Trad. Ingrid Müller Xavier. Belo Horizonte: Autêntica, 2009.
CLARKE, R. “Profiling: a hidden challenge to the regulation of data surveillance”, Journal of Law & Information Science, v. 4, n. 2, 1993, p. 403-419.
COMPARATO, F. K. “Estado, empresa e função social”, Revista dos Tribunais, ano 85, v. 732, 1996, p. 38-46.
COSER, I. “Dois conceitos de liberdade: 60 anos após a sua publicação”, Revista Brasileira de Ciências Sociais, v. 34, n. 100, e3410011, 2019b, p, 1-21.
COSER, I. “Lei, liberdade e diversidade de fins no pluralismo de valores”, Lua Nova, 107, 2019a, p. 169-202.
COSER, I. “Uma Reinterpretação das Liberdades Negativa, Positiva e de Escolha”, DADOS, v. 63. n. 3, 2020, p. 1-34.
COTÉ, M,; GERBAUDO, P.; PYBUS, J. “Introduction. Politics of big data”, Digital Culture & Society, v. 2, n. 2, 2016, p. 5-15.
COULDRY, N.; MEJIAS, U. A. The costs of connection: how data is colonizing human life and appropriating it for capitalism. Stanford, California: Stanford University Press, 2019b.
COUNCIL OF EUROPE. Declaration by the Committee of Ministers on the manipulative capabilities of algorithmic processes. Committee of Ministers, at the 1337th meeting of the Ministers’ Deputies, 13 Feb. 2019.
DE CUPIS, A. Os direitos da personalidade. Trad. Afonso Celso Furtado Rezende. 2. ed. São Paulo: Quorum, 2008.
DELEUZE, G. Conversações, 1972-1990. Trad. Peter Pál Pelbart. 7. ed. São Paulo: Ed.34, 2008 (Coleção TRANS).
DELEUZE, G. “Post-scriptum sobre as sociedades de controle”, In: DELEUZE, G. Conversações (1972-1990). Rio de Janeiro: Ed. 34, 1992. p. 219-226.
DIAS, F. V.; SALVETTI, É. F. “A governamentalidade algorítmica da vida e sua consequente precarização jurídico-política do trabalho”, REI – Revista Estudos Institucionais, v. 9, n. 1, 2023, p. 216-240.
DOMICIANO, J. L. “Governamentalidade e governamentalidade algorítmica: continuidades e descontinuidades na racionalidade política moderna”, Revista PERI, v. 15, n. 2, 2023, 119-138.
DONEDA, D. G. M. Da privacidade à proteção de dados pessoais. Rio de Janeiro: Renovar, 2006.
ELIAS, M. L. G. G. R. Liberdade como não interferência, liberdade como não dominação, liberdade construtivista: uma leitura do debate contemporâneo sobre a liberdade. 2014. 149 f. Tese (Doutorado em Ciência Política) – Universidade de São Paulo, São Paulo, 2014.
FERMENTÃO, C. A. G. R. Direito à Liberdade: por um Paradigma de Essencialidade que dê Eficácia ao Direito Personalíssimo da Liberdade. Curitiba: Juruá, 2009.
FLORÊNCIO, L. S. Proteção de dados pessoais na sociedade da informação: do direito fundamental à privacidade às limitações do consentimento. 2019. 102 f. Dissertação (Mestrado em Direito) – Faculdade Damas da Instrução Cristã, Recife, 2019.
FOUCAULT, M. História da sexualidade: a vontade de saber. Rio de Janeiro: Graal, 1988.
FOUCAULT, M. “O sujeito e o poder”, In: DREYFUS, H.; RABINOW, P. Michel Foucault, uma trajetória filosófica: para além do estruturalismo e da hermenêutica. Trad. Vera Porto Carrero. Rio de Janeiro: Forense Universitária, 1995. p. 231-249.
FOUCAULT, M.. Segurança, território, população: curso dado no College de France (1977-1978). Trad. Eduardo Brandão. São Paulo: Martins Fontes, 2008.
FOUCAULT, M. Vigiar e punir: nascimento da prisão. 20. ed. Trad. Raquel Ramalhete. Petrópolis: Vozes, 1999. E-book.
FRANÇA, L. “Direitos da personalidade: coordenadas fundamentais”, In: MENDES, G. F.; STOCO, R. (org.). Direito civil: parte geral. Pessoas e domicílio. São Paulo: Revista dos Tribunais, 2011. v. 3. p. 653-667.
FRANÇA, L. Manual de direito civil. 4. ed. São Paulo: Revista dos Tribunais, 1980.
FRISCHMANN, B.; SELINGER, E. Re-engineering humanity. Cambridge: Cambridge University Press, 2018.
GARCIA, E. “A liberdade e o seu fundamento existencial”, In: CONSTANT, Benjamin. A liberdade dos antigos comparada à dos modernos. Trad. Emerson Garcia. São Paulo: Atlas, 2015. p. 15-72.
GERMANO, I. M. P.; NOGUEIRA, M. C. G. M. “A difusão das redes sociais e as novas expressões do eu”, Revista de Psicologia, v. 8, n. 2, 2017, p. 53-62.
GILLESPIE, T. “The relevance of algorithms. Media Technologies: Essays on Communication, Materiality, and Society, MIT Press, 2014”. Revista § Parágrafo, v. 6, n. 1, 2018, p. 95-121.
GOMES, O. Introdução ao direito civil. 16. ed. Rio de Janeiro: Forense, 2000.
GREEN, T. H. Lectures on the principles of political obligation and other writings. Cambridge: Cambridge University Press, 1999.
HAVLIK, J. G. S.; REBOUÇAS, G. M. “Contribuições de Isaiah Berlin para refletir sobre liberdade”, Revista Direitos Humanos Fundamentais, ano 16, n. 2, 2016, p. 47-67.
HECK, R. L. “Algoritmos que nos governam: reflexões filosóficas sobre propriedades críticas da atual estrutura da revolução informacional”, Philósophos: Revista de Filosofia, v. 29, n. 1, 2024, p. 1-45.
HILDEBRANDT, M. “Profiling and AML”, In: RANNENBERG, K.; ROYER, D.; DEUKER, A. The future of identity in the information society: challenges and opportunities. New York: Springer, 2009. p. 273-310.
HIRSCHMANN, N. J. The subject of liberty: toward a feminist theory of freedom. Princeton: Princeton University Press, 2003.
HOBBES, T. Leviatã: ou a matéria, forma e poder de uma república eclesiástica e civil. Trad. João Paulo Monteiro, Maria Beatriz Nizza da Silva e Claudia Berliner. São Paulo: Martins Fontes, 2003.
HUR, Domenico Uhng. “Deleuze e a constituição do diagrama de controle”, Fractal: Revista de Psicologia, v. 30, n. 2, 2018, p. 173-179.
JABORANDY, C. C. M.; GOLDHAR, T. G. M. “A repersonalização do direito civil a partir do princípio da fraternidade: um novo enfoque para tutela da personalidade na contemporaneidade”, Revista Jurídica Cesumar, v. 18, n. 2, 2018, p. 481-502.
KANG, H.; LOU, C. “AI agency vs. human agency: understanding human-AI interactions on TikTok and their implications for user engagement”, Journal of Computer-Mediated Communication, v. 27, n. 5, 2022.
KAUFMAN, D. “A Inteligência Artificial mediando a comunicação: impactos da automação”, In: BARBOSA, M. (org.). Pós-verdade e fake: reflexões sobre a guerra de narrativas. Rio de Janeiro: Cobogó, 2020. p. 13-23.
LAFER, C. Ensaios sobre a liberdade. São Paulo: Perspectiva, 1980.
LAITINEN, A.; SAHLGRAN, O. “AI systems and respect for human autonomy”, Frontiers in Artificial Intelligence, v. 4, 2021.
LESSIG, L. Code: version 2.0. New York, USA: Basic Books, 2006.
LIMA, G. B. “Tipos de ativismo digital e ativismo preguiçoso no mapa cultural”, Revista GEMInIS, ano 3, n. 1, 2012, p. 71-96.
MARTINS, L. “Direito geral de liberdade”, In: CANOTILHO, J. G.; MENDES, G. F.; SARLET, I. W.; STRECK, L. L. Comentários à Constituição do Brasil. 2. ed. São Paulo: Saraiva, 2018. p. 435-445.
MARTINS, P. B. L. A regulação do profiling na Lei Geral de Proteção de Dados: o livre desenvolvimento da personalidade em face da governamentalidade algorítmica. 2021. 197 f. Dissertação (Mestrado em Direito) – Universidade Federal de Minas Gerais, 2021.
MEDEIROS, G. J. S. Os direitos de liberdade e de igualdade: conquistas, obstáculos e desafios da democracia segundo Norberto Bobbio. 2019. 80 f. Tese (Doutorado em Filosofia) – Universidade Federal da Paraíba, João Pessoa, 2019.
MENDES TEPEDINO, G. J. Relações contratuais e a funcionalização do direito civil. Pensar, v. 28, n. 1, 2023, p. 1-10.
MERQUIOR, J. S. O liberalismo antigo e moderno. 3. ed. Trad. Henrique de Araújo Mesquita. São Paulo: É Realizações Editora, 2016.
MILAN, S.; VAN DER VELDEN, L. “The alternative epistemologies of data activism”, Digital Culture & Society, Politics of Big Data, v. 2. n. 2, 2016, p. 57-74.
MILL, J. S. Sobre a liberdade. Trad. Pedro Madeira. Rio de Janeiro: Nova Fronteira, 2011.
MORENO, B. S.; MARTINS, C. J.; TREMBLAY, D. G. “Algoritmo e governamentalidade: novas configurações da produção de subjetividades contemporâneas”, InCID: Revista de Ciência da Informação e Documentação, v. 11, n. 2, 2021, p. 23-36.
MOROZOV, E. To save everything, click here: the folly of technological solutionism. New York: Public Affairs, 2013.
NERY, R. M. A.; NERY JUNIOR, N. Instituições de Direito Civil: parte geral do Código Civil e Direitos da Personalidade. 2. ed. São Paulo: Revista dos Tribunais, 2019.
O’NEIL, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Trad. Rafael Abraham. Santo André: Rua do Sabão, 2020.
OLIVEIRA, G. F.; ALVES, F. B. “Democracia e ativismo judicial: atuação contramajoritária do Judiciário na efetivação dos direitos fundamentais das minorias”, Argumenta Journal Law, n. 20, 2014, p. 33-45;
OPPENHEIM, F. E. Dimensions of freedom: an analysis. New York: St Martin’s Press, 1961.
PAULA, M. G. “O estado e o indivíduo: o conceito de liberdade em John Stuart Mill”, Polymatheia – Revista de Filosofia, v. 3, n. 3, 2007, p. 73-84.
PEREIRA, C. M. S. Instituições de direito civil. 30. ed. Rio de Janeiro: 2017 (atualização de Maria Celina Bodin de Moraes).
PERLINGIERI, P. Perfis do direito civil: introdução ao direito civil constitucional. Trad. Maria Cristina de Cicco. 3. ed. Rio de Janeiro: Renovar, 2007.
PETTIT, P. Republicanism: a theory of freedom and government. Oxford: Oxford University Press, 2007a.
PETTIT, P. Teoria da liberdade. Trad. Renato Sérgio Pubo Maciel. Belo Horizonte: Del Rey, 2007b.
PONTES DE MIRANDA, F. C. Direito da personalidade. Direito de família: direito matrimonial (existência e validade do casamento). São Paulo: Revista dos Tribunais, 2012 (atualizado por Rosa Maria Barreto Borriello de Andrade Nery. Coleção Tratado de Direito Privado: Parte Especial, v. 7).
PULIDO, C. B. “O conceito de liberdade na teoria política de Norberto Bobbio”, Revista Eletrônica Acadêmica de Direito – Panóptica, 2006, p. 48-71.
RODRIGUES, G. A.; MARCHETTO, P. B. “Controle e vigilância na Internet: técnica computacional como mecanismo de engendramento de poder”, Revista Eletrônica Direito e Sociedade, v. 9, n. 1, 2021, p. 117-129.
ROUVROY, A.; BERNS, T. “Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?”, Revista Eco-Pós, v. 18, n. 2, 2015, p. 36-56.
RUIZ, C. B. “Algoritmização da vida: a nova governamentalização das condutas”, Cadernos IHU ideias, ano 19, n. 314, v. 19, 2021, p. 1-26.
RUZYK, C. E. P. Liberdade(s) e função: contribuição crítica para uma nova fundamentação da dimensão funcional do direito civil brasileiro. 2009. 402 f. Tese (Doutorado em Direito) – Universidade Federal do Paraná, 2009.
SALDANHA, A. H. T.; SALDANHA, P. M. “Desenvolvimento de uma cultura democrática na internet pelo princípio da autodeterminação informativa”, Revista Direito & Desenvolvimento da Unicatólica, v. 2, n. 2, 2019, p. 57-67.
SCHREIBER, A. Direitos da personalidade. 2 ed. São Paulo: Atlas, 2013.
SEN, A. Desenvolvimento como liberdade. Trad. Laura Teixeira Motta. São Paulo: Companhia das Letras, 2010.
SILIER, Yi. Freedom: political, metaphysical, negative and positive. 2. ed. Londres, Nova York: Routledge, 2005.
SILVA, R. “Republicanismo neo-romano e democracia contestatória”, Revista de Sociologia e Política, v. 19, n. 39, 2011, p. 35-51.
SILVA, R. “Visões da liberdade: republicanismo e liberalismo no debate teórico contemporâneo”, Lua Nova, São Paulo, n. 94, 2015, p. 181-215.
SILVEIRA, S. A. Democracia e os códigos invisíveis: como os algoritmos estão modulando comportamentos e escolhas políticas. São Paulo: Edições Sesc São Paulo, 2019a.
SIQUEIRA, D. P.; MOREIRA, M. C.; VIEIRA, A. E. S. F. As pessoas e grupos em exclusão digital: os prejuízos ao livre desenvolvimento da personalidade e a tutela dos direitos da personalidade. Revista Direitos Culturais, v. 18, n. 45, 2023, p. 3-17.
SKINNER, Q. Hobbes e a liberdade republicana. Trad. Modesto Florenzano. São Paulo: Ed. da Unesp, 2010.
STEWART JR, D. O que é liberalismo. 5. ed. Rio de Janeiro: Instituto Liberal, 1995.
SZANIAWSKI, E. Direitos de personalidade e sua tutela. 2. ed. São Paulo: RT, 2005.
TEFFÉ, C. S.; TEPEDINO, G. “O consentimento na circulação de dados pessoais”, Revista Brasileira de Direito Civil, v. 25, n. 3, 2020, p. 83-116.
TEPEDINO, G. “A tutela da personalidade no ordenamento civil-constitucional brasileiro”, In: TEPEDINO, G. Temas de direito civil. 3. ed. Rio de Janeiro: Renovar, 2004. p. 1-31.
TORMIN, M. M.. “Os dois conceitos de liberdade e a filosofia de Isaiah Berlin”, Cadernos de Ética e Filosofia Política, v. 42, n. 2, 2023, p. 70-83.
UNIÃO EUROPEIA. Parlamento Europeu e Conselho. Regulamento (UE) 2024/1689, de 13 de junho de 2024. Estabelece regras harmonizadas sobre Inteligência Artificiale altera os Regulamentos (CE) n. º 300/2008, (UE) n. º 167/2013, (UE) n. º 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Lei de Inteligência Artificial). Jornal Oficial da União Europeia, Luxembrugo, L 2024/1689, 12 jul. 2024.
ZANINI, L. E. A.. Direitos da personalidade: aspectos essenciais. São Paulo: Saraiva, 2011.
ZANINI, L. E. A.; ODETE, N. C. Q.. “A eficácia horizontal e a relação dos direitos da personalidade com os direitos fundamentais e os direitos humanos”. Civilistica.com, v. 10, n. 2, 2021, p. 1-28.
ZANKER, M.; ROOK, L.; JANNACH, D. “Measuring the impact of online personalisation: past, present and future”, International Journal of Human-Computer Studies, v. 131, 2019, p. 160-168.
ZUBOFF, S. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Trad. George Schlesinger. Rio de Janeiro: Intrínseca, 2020.
Downloads
Published
Issue
Section
License
Copyright (c) 2025 Ana Elisa Silva Fernandes Vieira
This work is licensed under a Creative Commons Attribution 4.0 International License.
The copyright of the articles published in Mackenzie Law Review belongs to the authors, who grant Mackenzie Presbyterian University the rights of publication of the contents, and the assignment takes effect upon submission of the article, or work in similar form, to the electronic system of institutional publications. The journal reserves the right to make normative, orthographic, and grammatical alterations to the originals, with the aim of maintaining the cultured standard of the language, respecting, however, the style of the authors. The content reported and the opinions expressed by the authors of the articles are their exclusive responsibility.
