Apesar de a internet ter permitido que actos isolados de terrorismo e de extremismo violento se tenham tornado virais, um novo nível de preocupação partilhada foi atingido quando o capital simbólico do mundo livre se viu invadido por manifestantes de extrema-direita. Uma “insurreição” no Capitólio dos Estados Unidos (como foi exageradamente chamada), organizada, promovida e transmitida em fóruns de discussão e plataformas de extrema-direita, foi para muitos a expressão final da radicalização online e a manifestação da inacção das plataformas digitais para refrear o “discurso do ódio”. Qual seria o próximo alvo? Quem seriam os responsáveis por uma multidão mal informada e/ou radicalizada e, por sua vez, pelas vítimas das suas acções? O que poderia então acontecer em contextos menos “livres”, de Mianmar ao México?
Claro que o debate público, sobretudo aquele com maior impacto na elaboração de políticas públicas, pode muitas vezes ignorar grande parte da real complexidade do problema. Estudos confirmam que as plataformas da internet são, efectivamente, instrumentos potenciadores de radicalização devido, em parte, à criação das mais bem-sucedidas aplicações e dos respectivos algoritmos de recomendação. Para além da capacidade de atraírem pessoas de lugares distantes com interesses semelhantes, as plataformas mais populares passaram a sugerir conteúdos recomendados através de algoritmos que tentam recriar padrões que levam a um maior “envolvimento” dos seus utilizadores. Vídeos inflamatórios e ideias extremistas são, precisamente, parte desse tipo de conteúdo. Histórias que se alimentam de certas narrativas, num ciclo de indignação e suspeita, obtêm mais visualizações e reacções do que qualquer desconstrução ou retracção das mesmas histórias.
O reconhecimento desta capacidade de desinformação e radicalização levou a um aumento dos apelos da sociedade civil à transparência algorítmica, exigindo o entendimento sobre o funcionamento destes mecanismos (estes apelos podem ser encontrados, por exemplo, nos Princípios de Santa Clara, um documento-guia sobre transparência e responsabilização na moderação de conteúdos que foi lançado por um grupo de organizações, activistas e académicos). As recomendações de conteúdos surgem com base em processos opacos de recolha e de análise de dados, uma caixa negra demasiado valiosa para ser aberta sem correr o risco de desistir da receita secreta para o sucesso. Por outras palavras, o modelo de negócio baseia-se num processamento de dados difícil de escrutinar.
Algumas das empresas privadas donas destas plataformas detêm o poder sobre grandes partes do mundo, tendo bases de utilizadores muito superiores a populações de países ou continentes. Segundo o site Statista.com, no primeiro trimestre de 2021 o número de utilizadores do Facebook aumentou para 2,85 mil milhões e o do YouTube para 2,3 mil milhões. Por sua vez, o Twitter e o Reddit registavam, cada um, mais de 300 milhões de utilizadores mensais. Além disso, as plataformas mais recentes criadas por grupos desencantados de extrema-direita incluem a Parler, que superou os 10 milhões de utilizadores. Neste contexto, torna-se ainda mais difícil salvaguardar o importante papel destas plataformas enquanto palco de grande parte dos debates públicos e, ao mesmo tempo, exigir-lhes tomadas de decisão face às acções e às manifestações dos seus utilizadores. Como é que decidem? O que acontece quando essas decisões provocam outros danos?
Também é preciso notar que a radicalização, embora facilitada pelas plataformas online, é uma questão com raízes muito mais profundas. Debater as possibilidades que as plataformas abrem e o conteúdo questionável que oferecem é, em muitos sentidos, debater os sintomas de problemáticas sociais mais amplas. Por outras palavras, estamos a assistir a manifestações de outros problemas: uma economia cada vez mais global, juntamente com crescentes assimetrias de poder, ondas de imigração, relocalização dos centros de poder industrial e consolidação do domínio tecnológico, financeiro e industrial restritos a poucos locais. Como demonstrado na literatura económica recente, a desigualdade global estava a aumentar mesmo antes de a pandemia materializar o risco de indigência para partes significativas da população.
A crescente sensação de impotência face a estes fenómenos pode levar ao apoio de figuras e de narrativas que se enquadram no que identificamos como pensamento extremista. A democracia não parece validar-se quando as condições de vida não estão a melhorar para a maioria das pessoas, especialmente nos países menos desenvolvidos. As sementes do fascismo espalham-se num solo capaz de ser bastante fértil. Tal como acontece com muitos outros processos sociais, a tecnologia pode estar presente apenas para facilitar algo que já estava a acontecer, revelando também as fendas das democracias mais frágeis e mais jovens.
O que resta, então, para a maioria do mundo? Com pouco poder para influenciar as dinâmicas globais, mas sob a influência dos poderes de certos países e de um punhado de grandes empresas (como tem acontecido durante séculos), algumas das piores tendências mundiais são replicadas em vez de contidas. Um candidato de extrema-direita ganhou as eleições presidenciais no Brasil para deixar, literal e figurativamente, um legado de destruição numa das maiores economias emergentes, ao mesmo tempo que vai espalhando mais ódio e desinformação online. Em meados de Julho deste ano, a segunda volta das eleições presidenciais no Peru declarou o vencedor após semanas de reivindicações infundadas de fraude eleitoral por parte do seu adversário (seguindo o exemplo recente dos EUA), e depois de um aumento da violência online e offline por parte dos “Los Combatientes”, uma facção de extrema-direita dos seus eleitores. Onde estava então a indignação do mundo dito desenvolvido?
Tal como salientado frequentemente pela sociedade civil, é claro que estas questões complexas têm de ser abordadas à luz do quadro internacional dos direitos humanos. A necessidade de impedir a amplificação de certos conteúdos, protegendo ao mesmo tempo as liberdades de opinião, de expressão e de associação, e ao mesmo tempo preservando a internet livre, global e interoperável, é um equilíbrio difícil de alcançar. Não limitar os direitos, mas reforçá-los enquanto se promove a democracia e a pluralidade, é tanto um desafio hoje como o foi durante o século XX.
Talvez tenhamos de pensar em diferentes soluções para os enigmas legais e digitais globais, ao mesmo tempo que tomamos medidas para resolver os problemas sociais, culturais e políticos a nível local. A curto prazo, os conteúdos radicalizantes devem ser abordados não só em plataformas online, mas também através da investigação das suas fontes. As soluções a longo prazo devem visar a diminuição da procura destes conteúdos, por exemplo, através de medidas económicas de combate à desigualdade, através da educação cívica e através da sensibilização para os perigos do extremismo. Poderá ser necessário um forte activismo para impulsionar as agendas políticas no sentido de abordar estas questões com seriedade.
A busca pelo equilíbrio poderá não terminar tão cedo, mas temos de continuar a procurer. Nunca foi tempo de queimar livros por uma questão de ortodoxia política. Não será agora o momento de queimarmos os nossos smartphones. Pelo menos, não por causa dos fascistas.
/ Tradução por Marta Gamito
English Version
The promise of the internet as the place where technology would allow democracy to flourish is, at best, a broken one. The enthusiasm that accompanied the explosive growth of the internet by the turn of the century has been tempered by panics over the spread of harmful and illegal content, disinformation, extremist propaganda, and influence operations allegedly altering the course of national politics from UK to Brazil.
Although isolated acts of violent extremism and terror have found virality through the internet, we reached a new level of shared concern when the symbolic capital of the free world was overrun by far-right protesters. An “insurrection” in the United States Capitol (as it was exaggeratedly called), organised, promoted and streamed in far-right discussion forums and platforms, was for many the ultimate expression of online radicalisation — the manifestation of online platforms’ inaction to curb “hate speech”. Then what would be the next target? Who would be responsible for a misinformed and/or radicalised mob, and in turn, for the victims of their acts? What could even happen in less “free” contexts, from Myanmar to Mexico?
Of course, public debate, especially that which can be most impactful in public policymaking, can often leave out large parts of the real complexity of the problem. Studies confirm internet platforms are in fact enablers of radicalisation, in part through the design of the most successful platforms and their recommendation algorithms. On top of the capacity for engaging people with similar interests from far away places, popular platforms have added recommended content, through algorithms that try to recreate patterns that will lead to more “engagement”. Inflammatory videos and extremist ideas are precisely that type of content. Stories that feed into certain narratives, in a feedback loop of indignation and distrust, get more views and reactions than any debunking or retraction of the same stories.
The acknowledgement of their capacity to disinform and radicalise has led civil society to increase calls for transparency on the way these algorithms work (we can find these calls, for example, in the Santa Clara Principles – drafted by a group of organizations, advocates and academic experts, the principles outline a set of guidelines on transparency and accountability around moderation of user-generated content). The recommendations are targeted based on opaque processes of data collection and analysis, a black box too valuable to open without risking giving up the secret recipe to success. In other words, the business model relies on data processing in ways that are hard to scrutinise.
Some of these private companies hold power over large parts of the world, with user bases far above the populations of countries or continents. According to Statista.com, Facebook users rose to 2.85 billion by the first quarter of 2021, YouTube 2.3 billion, and both Twitter and Reddit are over 300 million monthly users each. In addition, newer platforms created by disenchanted far-right users include Parler, which surpassed 10 million users. It is even more difficult to preserve the important role they play in hosting a large part of public debates, while also asking them to decide on the actions and expressions of their users. How do they decide? What happens when those decisions create other harms?
It is also important to notice that radicalisation, although facilitated by platforms, is an issue with much deeper roots. Debating platform affordances and questionable content is, in many ways, debating the symptoms of larger, and broader, social problems. In other words, we are seeing the manifestations of other problems. An increasingly global economy, along with growing power asymmetries, waves of immigration and relocation of the centres of industrial power, and consolidation of technological, financial and industrial dominance in few places. As shown in recent economic literature, global inequality was rising even before the COVID-19 pandemic materialised the risk of destitution for large parts of the population.
The growing sense of powerlessness out of these phenomena can lead to the support of the figures and narratives that fit in what we identify as extremist thought. Democracy does not seem to validate itself when living conditions are not necessarily improving for most people, especially in less developed countries. The seeds of fascism have far more soil that might just be fertile enough. As with many other social processes, technology might just be in place to facilitate some of what was already happening, showing also the cracks of weaker and younger democracies.
What is then left for the majority world? With little power to sway global processes, but under the influence of the powers of certain countries and a handful of large corporations (as it has been for centuries), some of the world’s worst tendencies are replicated rather than contained. A far-right candidate won a presidential election in Brazil and has left a legacy of literal and figurative destruction in one of the largest emerging economies, while spreading further hatred and misinformation online. By mid-July 2021, the presidential runoff election in Peru declared its winner after weeks of unsubstantiated claims of election fraud by his opponent (following a recent example from the U.S.) and a surge of online and offline violence by “Los Combatientes”, a far-right faction among her supporters. Where was the so-called developed world indignation then?
Of course, as civil society usually points out, these hard questions need to be addressed regarding the international human rights framework. The need to prevent the amplification of certain content, while protecting the freedoms of opinion and expression and association, and preserving the free, global, interoperable internet, is a difficult balance. Not limiting rights, but enhancing them while also promoting democracy and plurality, is as much a challenge today as it was during the 20th century.
Perhaps we need to think about different solutions to the global legal and digital conundrums, while also taking action to address the social, cultural and political problems at the local level. In the short term, we must not only address radicalising content on online platforms but also investigate its sources. Long-term solutions must aim to reduce the demand for extreme content, for example, through economic measures tackling inequality, through civic education, and through raising awareness about the dangers of extremism. We may need strong activism to push political agendas to tackle these issues in a serious manner.
The quest for balance might not be over any time soon, but we must keep searching. It has never been the time to burn books as a matter of political orthodoxy. It is not time now to burn our smartphones. Not for the sake of fascists, anyway.
