Home / * PORTAL / Quando o ódio vira algoritmo, é preciso responsabilizar quem espalha violência nas redes | por MEL INQUIETA

Quando o ódio vira algoritmo, é preciso responsabilizar quem espalha violência nas redes | por MEL INQUIETA

Eu estava dentro de um elevador com três homens jovens, provavelmente entre 18 e 20 anos. Conversavam entre si, riam, pareciam apenas mais três rapazes comuns no cotidiano de qualquer cidade. Ainda assim, senti um desconforto difícil de explicar. Naquele instante, me veio à memória a imagem de um dos participantes do recente caso de estupro coletivo de uma jovem de 17 anos em Copacabana, no Rio de Janeiro. Quando ele se apresentou à polícia, usava uma camiseta com uma frase estampada: “não me arrependo de nada.”

A frase não era apenas uma provocação. Ela se tornou símbolo de uma cultura digital que vem ganhando espaço em determinados ambientes da internet, o chamado movimento Red Pill, associado a comunidades online que difundem discursos profundamente misóginos e que frequentemente tratam o ódio às mulheres como algo legítimo.

Outros episódios recentes reforçam a brutalidade dessa realidade. Uma freira de mais de 80 anos vítima de estupro e feminicídio. Uma idosa de 71 anos estuprada por um motorista de ônibus. A idade das vítimas não impediu a violência.

No exterior, o caso de Gisèle Pelicot, na França, chocou o mundo ao revelar anos de violência sexual cometida pelo próprio marido. Dominique Pelicot dopava a esposa e permitia que dezenas de homens a estuprassem enquanto ela estava inconsciente, registrando os crimes. A investigação revelou uma rede de abusadores recrutados em fóruns online. Ao tornar público o processo, Gisèle transformou sua história em um símbolo internacional de denúncia contra a violência sexual.

A violência contra mulheres continua sendo reproduzida de geração em geração entre homens, sustentada por uma cultura machista que ainda naturaliza o domínio, o controle e a agressão. Até quando essa lógica continuará sendo tolerada?

Dentro daquele elevador, olhando para aqueles três jovens que cresceram em uma geração moldada pelas redes sociais, me perguntei algo perturbador: quantos deles podem vir a se tornar potenciais agressores?

Os números ajudam a dimensionar a gravidade do problema. Dados compilados pelas secretarias estaduais de segurança pública e enviados ao Ministério da Justiça indicam que o Brasil registrou mais de 83 mil casos de estupro e estupro de vulnerável em 2025.

De acordo com o Conselho Nacional de Justiça, a violência contra mulheres segue em crescimento. Apenas em janeiro de 2026 foram registrados 947 novos casos de feminicídio, número 3,49% superior ao do mesmo período do ano anterior. Em cinco anos, o índice praticamente triplicou, passando de 4.210 ocorrências em 2020 para 12.012 em 2025.

A violência doméstica também apresenta números alarmantes. Foram 99.416 novos processos apenas em janeiro de 2026 e cerca de 1,2 milhão de registros ao longo de 2025. A busca por proteção judicial também aumentou significativamente, com mais de 53 mil medidas protetivas concedidas apenas no primeiro mês de 2026.

Por trás desses números existem histórias reais, famílias destruídas e vidas interrompidas.

Não são raros os casos de homens incapazes de lidar com frustrações afetivas, que se tornam intolerantes, agressivos e violentos. Homens que ameaçam, perseguem e, em muitos casos, chegam ao extremo de matar esposas, ex-esposas ou namoradas. Alguns tiram a própria vida após cometer o crime. Outros, em episódios ainda mais devastadores, chegam a matar os próprios filhos como forma de vingança ou descontrole emocional.

Essas tragédias não surgem do nada. Elas fazem parte de uma cultura onde o machismo ainda se reproduz cotidianamente, nas piadas, nos comentários, nos ataques online e na normalização da violência simbólica contra mulheres.

Quase ao mesmo tempo, outro episódio de violência gerou revolta nas redes: o espancamento brutal do cão Orelha, em Santa Catarina, atacado por jovens. São crimes diferentes, mas que parecem revelar uma mesma raiz, a formação de grupos de ódio que incentivam e banalizam a violência. Ao longo da história, cada geração testa limites e desafia valores estabelecidos, mas surge uma inquietação inevitável: será que esta geração está escolhendo testar os seus limites por meio da crueldade?

Essa realidade não é nova para quem acompanha o tema há mais tempo. Em 2015, criei uma página chamada Mulheres que Dizem Não, com o objetivo de registrar e divulgar casos de violência contra mulheres para provocar reflexão e conscientização.

Todos os dias surgia um novo caso. A expectativa era que, ao expor essa realidade, a sociedade reagisse, se mobilizasse e exigisse mudanças estruturais. Mas, de lá para cá, o cenário não melhorou, só piorou. É cansativo. Cansativo lutar em pequenos grupos por uma consciência coletiva que muitas vezes não se transforma em mudanças reais.

Recentemente uma trend que circulou no TikTok e simulava agressões contra mulheres gerou forte repercussão e preocupação entre autoridades e organizações de defesa dos direitos das mulheres, por banalizar a violência e transformá-la em entretenimento nas redes sociais. Diante do caso, o governo do presidente Luiz Inácio Lula da Silva notificou a plataforma e deu cinco dias para que a empresa apresentasse explicações sobre a circulação do conteúdo e as medidas de controle adotadas. Após a pressão pública e institucional, o TikTok informou que removeu os vídeos relacionados à trend, afirmando que conteúdos que incentivam ou fazem apologia à violência violam as diretrizes da plataforma e não são permitidos.

Participo e frequento espaços ligados à inovação, tecnologia, cultura e educação. E uma coisa é evidente: a tecnologia só tende a crescer. As redes sociais continuarão influenciando comportamentos, formando identidades e moldando percepções sobre o mundo. Hoje, discursos de ódio, machistas, racistas, homofóbicos, transfóbicos, xenófobos, ataques contra pessoas indígenas, contra migrantes ou contra qualquer grupo vulnerável circulam com enorme velocidade nas redes. Essas falas não são apenas palavras. Elas ajudam a construir uma cultura. Uma cultura onde a violência se normaliza, onde o desrespeito vira entretenimento e onde algoritmos acabam amplificando justamente os conteúdos mais agressivos porque eles geram mais engajamento.

Por isso, campanhas de conscientização continuam sendo importantes, mas claramente não são suficientes. Se quisermos enfrentar a raiz do problema, será necessário discutir um novo modelo de responsabilização no ambiente digital.

Além de responsabilizar as plataformas, é possível construir uma ação cooperativa entre governos e Big Techs para identificar os autores de conteúdos violentos. As próprias redes já possuem tecnologia e dados capazes de rastrear padrões de comportamento, localizar perfis e identificar quem produz ou dissemina comentários que incentivam violência ou discriminação. Com o apoio da inteligência artificial, esse sistema poderia focar na identificação dos responsáveis, permitindo que eles sejam devidamente responsabilizados. Afinal, remover conteúdos ou excluir contas tem se mostrado insuficiente, o desafio agora é identificar e responsabilizar quem está por trás dessas publicações.

Uma possibilidade seria a aplicação de multas proporcionais à renda de quem publica comentários que incentivem violência ou discriminem grupos protegidos por leis de direitos humanos. Diferente de multas fixas, como as de trânsito, a penalidade precisaria considerar o poder econômico do infrator.

Isso é fundamental porque grande parte dessa juventude que cresce nas redes possui poder econômico ou pertence a famílias com recursos, contextos em que uma multa pequena não teria qualquer efeito pedagógico.

Por isso, a penalidade poderia variar entre 10% e 20% da renda, garantindo impacto real.

No caso de menores de idade ou pessoas sem renda própria, os responsáveis legais poderiam responder civilmente. Empresas também poderiam ser responsabilizadas quando funcionários utilizam redes sociais para promover violência ou discurso de ódio de forma recorrente.

A tecnologia que permite rastrear essas condutas já existe. A própria inteligência artificial poderia automatizar a comunicação dessas penalidades, enviando notificações por e-mail com a justificativa da sanção e garantindo meios legais para contestação.

Tudo isso precisaria vir acompanhado de campanhas permanentes de educação e conscientização, além de um debate profundo sobre liberdade de expressão, direitos civis e limites legais. Mas uma coisa parece cada vez mais evidente: não podemos continuar tratando o discurso de ódio online como algo sem consequências reais.

A tecnologia continuará avançando. Os algoritmos continuarão moldando comportamentos. A pergunta que permanece é simples:

vamos formar uma geração educada para a empatia e para os direitos humanos ou uma geração que naturaliza a violência?

O futuro não depende apenas da tecnologia. Depende, sobretudo, das regras que a sociedade decide criar para conviver com ela.

Mel Inquieta (Melina Guterres)

Jornalista, roteirista, diretora, produtora e empreendedora da economia criativa. Fundadora da Rede Sina, atua na produção de conteúdo, projetos culturais e debates sobre comunicação, inovação e direitos humanos. Trabalhou em veículos como Folha de S.Paulo, Estadão, IstoÉ e UOL, além de desenvolver projetos audiovisuais e literários voltados ao impacto social.

Comente

comentários

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.