Texto de opinião sobre o efeito polarizador dos algoritmos na democracia, no âmbito da Digitalização da Administração Pública e do processamento de dados público e privados

 

    Nos dias de hoje, quando falamos de democracia e administração pública temos que falar de dados. Do acesso à saúde, às inscrições escolares, da segurança social à justiça, tudo isto depende, variando o grau, de informação que é recolhida e processada. Com a digitalização da administração, essas informações deixaram de estar apenas nas mãos do Estado para passarem a circular entre entidades públicas e privadas, através de sistemas de reconhecimento e processamento de dados, cada vez mais complexos para o cidadão comum. É importante falar, para além dos dados, no processamento destes por algoritmos. Antes, fazia-se um registo administrativo, enquanto que hoje há um processamento por algoritmos capazes de, em muitos casos, tomar ou influenciar decisões públicas.

No entanto, esta influência dos algoritmos não se esgota na esfera administrativa. É visível, especialmente e de forma preocupante, nas redes sociais, que são hoje espaços públicos centrais na formação de opinião e participação política. Ao adaptar o conteúdo ao perfil de cada utilizador, este é exposto a conteúdos que apenas confirmam as suas crenças e preferências, criando bolhas de informação, onde só circulam visões semelhantes. Os algoritmos que gerem estas plataformas decidem o que vemos, o que nos indigna e até com quem concordamos. Em aplicações como o Instagram ou o TikTok, por exemplo, até os comentários apresentados num mesmo vídeo variam consoante o utilizador, dando esta ilusão de consenso, como se todos partilhassem a opinião do utilizador a assistir. Esta ação silenciosa e subtil contribui para a polarização social e política, radicalizando posições e muitas eliminando o espaço para o diálogo. Se pensarmos que muitos cidadãos formam as suas opiniões através destas plataformas percebemos o impacto direto, destes aparentemente inofensivos algoritmos, na fragilização das bases da própria democracia.

Jean-Bernard Auby alerta precisamente para esta nova forma de poder, exercido não apenas pelos Estados, mas por entidades privadas que controlam o acesso à informação e ao processamento de dados. O poder contemporâneo, diz Auby, não reside apenas nas instituições políticas, mas também nas mãos de quem detém os algoritmos e os dados e, por isso, na capacidade de orientar comportamentos sociais e decisões coletivas. No fundo, trata-se de um deslocamento da soberania, pois passa a ser a tecnologia a mediar a relação entre cidadãos e Estado.

No plano jurídico, há uma grande questão: como é que podemos garantir que o uso de algoritmos e dados pessoais pela administração pública não compromete os princípios da legalidade, da transparência e da igualdade? O Direito Administrativo assenta no princípio da legalidade, de que a Administração só pode agir dentro dos limites definidos na lei (proveniente do artigo 266.º da CRP e artigo 3.º do CPA). Mas, quando as decisões são tomadas ou influenciadas por sistemas automáticos esta fronteira torna-se difusa. Os algoritmos, sobretudo os que aprendem com dados, desafiam esta lógica, pois as suas decisões parecem neutras, mas na verdade dependem dos dados e das regras que os alimentam. Um algoritmo não interpreta a lei, apenas identifica padrões estatísticos. E se os dados forem enviesados, a decisão também o irá ser. O problema é que essa decisão não é transparente, o que dificulta o controlo judicial e o exercício do direito à informação por parte dos cidadãos.

Um caso recente que ilustra bem estas tensões é o da Digital ID no Reino Unido, um sistema de identificação digital feito para facilitar o acesso a serviços públicos. Apesar de prometer maior eficiência e segurança, o projeto tem sido bastante criticado pela centralização de dados sensíveis e pelo risco de exclusão de cidadãos sem meios tecnológicos ou literacia digital. Têm havido significativas manifestações de cidadãos que, efetivamente, não querem dar este direito à Administração, mas também não querem ficar excluídos do uso de serviços públicos. Além disso, o envolvimento de empresas privadas na gestão destas plataformas levanta dúvidas legítimas sobre quem controla verdadeiramente os dados e com que finalidades o faz. Este exemplo mostra como uma medida, aparentemente neutra, pode gerar efeitos discriminatórios e abalar a confiança dos cidadãos nas instituições públicas, passando de uma questão técnica a uma jurídica e democrática. 

Como refere Auby, a digitalização trouxe à administração uma lógica de eficiência que, embora positiva, é em si, ambígua. Permite decisões mais rápidas e menos burocráticas, mas cria uma nova forma de poder, o poder algorítmico, que escapa facilmente ao escrutínio público e pode não se submeter à legalidade e racionalidade jurídica tradicional da Administração. Quando o Estado delega a análise ou decisão a sistemas automáticos, há uma transferência implícita de soberania para as tecnologias, que fragiliza o próprio princípio da responsabilidade. Em França, por exemplo, o artigo L.311-3-1 do Code des relations entre le public et l’administration de 2016, já impõe a obrigação de informar os cidadãos quando as decisões administrativas são tomadas com recurso a algoritmos (“Sous réserve de l'application du 2° de l'article L.311-5, une décision individuelle prise sur le fondement d'un traitement algorithmique comporte une mention explicite en informant l'intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l'administration à l'intéressé s'il en fait la demande. Les conditions d'application du présent article sont fixées par décret en Conseil d'Etat.”), algo que Portugal também se deveria considerar.

A digitalização é inevitável e desejável, mas deve estar acompanhada de mecanismos de transparência, controlo ético e legalidade, assegurando a compreensão dos cidadãos ao funcionamento dos algoritmos utilizados e aos critérios de orientação em todas as decisões que os afetam. Os dados pessoais, antes privados, têm-se tornado a base da ação administrativa e social e é fundamental que nenhuma decisão pública escape ao controlo humano e jurídico. A tecnologia deve servir o Direito e a democracia, não substituí-los. A crença na neutralidade dos algoritmos é perigosa, porque mascara a possibilidade de enviesamento e exclusão. No fundo, o grande desafio do nosso tempo é garantir que a digitalização reforça a administração e a democracia, em vez de a fragmentar. Porque uma sociedade que se deixa governar por dados e algoritmos, sem questionar profunda e rigorosamente as suas regras funcionais, corre o risco de ser muito mais eficiente, mas menos transparente, justa, humana e  fundamentalmente menos livre.

Beatriz Ribeiro, nº: 72359