Como o DSA pode enfrentar a violência de gênero em plataformas digitais?

As plataformas digitais possuem uma importante função para exercício do direito à liberdade de expressão, facilitando a criação de uma diversidade de conteúdos, por vezes expressados por grupos historicamente invisibilizados e que, atualmente, enxergam nas plataformas um instrumento para compartilhar ideias, informação, reivindicar direitos e obter entretenimento, em regra, sem restrição prévia.

Desse modo, o presente artigo busca analisar como o atual Regulamento sobre os serviços digitais do Parlamento Europeu, Digital Services Act (DSA), através das novas obrigações de devida diligência para plataformas digitais que visam reduzir os potenciais riscos sociais decorrentes da prestação de seus serviços, pode enfrentar a violência de gênero no ambiente digital.

Cumpre, antes de adentrar nos aspectos normativos do regulamento, ressaltar que desigualdade de gênero no mundo real são transferidas para o "mundo virtual" e refletem nas dinâmicas existentes nas plataformas digitais. Isto porque, o gênero enquanto categoria funciona como uma norma reguladora, ou seja, atua como condição de inteligibilidade cultural, e, ainda, serve de base para outros tipos de regulamentos, sendo um modo de disciplina e vigilância dentro de estruturas de poder [1].

Ademais, uma das razões do estabelecimento de desigualdades se dá porque, historicamente, grupos majoritários utilizam mecanismos para que as oportunidades estejam sempre concentradas em seus âmbitos de poder, de modo que a estigmatização de características de grupos vulneráveis gera desvantagem cultural e dificulta a formação de uma imagem pessoal positiva, legitimando várias práticas discriminatórias, submetendo os membros desses grupos à violência direta e/ou simbólica [2].

Essas violências simbólicas têm impacto social porque influenciam no modo com que pessoas constroem identidades e interesses baseados nessas identidades, o que também se expressa por meio de interesses políticos e econômicos [3]. Esse parece ser um desafio para o enfrentamento de violências de gênero no ambiente digital, sobretudo porque , levando em consideração o DSA, em seu Considerando 12, a definição de conteúdo ilegal abrange, em sentido lato, informações relativas à conteúdos, produtos, serviços e atividades ilegais, notadamente, informações que, independentemente da forma que assumam, nos termos da lei aplicável, sejam ilegais, como discursos de incitação ao ódio ou conteúdos terroristas e discriminatórios, ou que estejam relacionadas com atividades ilegais, como compartilhamento de imagens de abuso sexual de crianças, por exemplo.

Gize-se que, o conceito de conteúdo ilegal é distinto do conceito de "conteúdos prejudiciais" (Harmful content), definidos como conteúdos que não se enquadram estritamente na proibição de uma lei, mas que podem, no entanto, ter efeitos nocivos [4]. Assim, não obstante as plataformas sejam obrigadas, de modo mais explícito, a coibir o que constitui "discurso de ódio" e "conteúdo ilegal", a análise desses materiais tende a focar em violências mais espetaculares. Mas como as violências de gênero assumem muitas formas complexas e a percepção dos julgadores sobre elas está influenciada por uma cultura patriarcal e sexista, a possível intervenção sobre o que seus usuários postam e compartilham não se justificaria.

Nessa senda, para exemplificar os desafios para o enfrentamento de violências de gênero no ambiente digital, mormente quanto às violências simbólicas, basta observar a política de discurso violento do Twitter que esclarece o que não representa uma violação desta política, como "certos casos de figuras de linguagem, sátira ou expressão artística quando o contexto estiver expressando um ponto de vista, e não instigando violência ou danos" [5].

Logo, situações de racismo recreativo, que assume a forma de violência simbólica[6], como quando se utiliza do humor hostil como estratégia para reproduzir a ideia de que determinados grupos raciais não são atores sociais competentes, ou para agredir membros de grupos raciais para desestabilizar a autoconfiança dos indivíduos através de piadas (violências muito comuns contra mulheres negras), seria permitido com base nesse enquadramento.

Todavia, o DSA instituiu um sistema escalonado de obrigações para plataformas digitais dispostas nos artigos 10 a 37, obrigações aplicáveis a todos os prestadores de serviços intermediários e obrigações adicionais para determinadas plataformas, levando em consideração o tipo e a natureza do serviço intermediário e adaptando as obrigações a eles, de modo razoável e não arbitrário.

Especialmente quanto às obrigações adicionais para plataformas digitais muito grandes (VLOPs), definidas no artigo 25º (1) do DSA como aquelas que prestam os seus serviços a um número médio mensal de destinatários ativos do serviço na União igual ou superior a 45 milhões, buscou-se induzir o gerenciamento de riscos sistêmicos, riscos aos direitos fundamentais de seus serviços (artigo 34), bem como desenvolver e implementar medidas de mitigação (artigo 35) e de submissão à auditorias independentes (artigo 37), por exemplo.

Tais obrigações estão alinhadas com o objetivo da União Europeia de criminalizar certas formas de violência digital baseada em gênero, dentro de um projeto de Diretiva de Combate à Violência contra Mulheres e Violência Doméstica, publicado em março de 2022. A referida Diretiva visa estabelecer padrões criminais mínimos para coibir a perpetração de perseguição cibernética, compartilhamento não consensual de conteúdo íntimo ou manipulado e incitação cibernética à violência ou ao ódio.

Mas a moderação de conteúdo de algumas plataformas digitais para enfrentar essas violências falha ao utilizar mecanismos de denúncia que por vezes apenas ofertam como opção à usuárias a atribuição para o caso sofrido, categorias predeterminadas que não conseguem captar a natureza multifacetada da violência, acrescido ao fato de que os moderadores de conteúdo não recebem treinamento relevante e sensível ao gênero o que resulta em uma análise que conclui pela não violação de direitos [7].

Por isso, a avaliação dos riscos sistêmicos, as medidas de mitigação e o mecanismo implementado para garantir o o à reparação estabelecidas no DSA devem ser desenvolvidos usando uma metodologia interseccional. A consulta às partes interessadas deve ser consistente e significativa, bem como a instituição de mecanismos formais para que a sociedade civil participe ativamente e proponha recomendações para melhor aplicação e implementação.

Tais esforços permitirão a reflexão de como harmonizar o quadro regulamentar na União Europeia, e, para isso, a Diretiva sobre Violência contra a Mulher e Violência Doméstica trará certas formas de risco de violência digital baseada em gênero para o âmbito do conteúdo ilegal e das obrigações de devida diligência do DSA, buscando garantir que esses esforços combinados sejam mais efetivos.