A Meta anunciou no início de janeiro que mudaria sua moderação de conteúdo. As principais alterações foram o fim do programa de verificação de fatos por terceiros, que foi substituído por um sistema de “notas da comunidade”, e a flexibilização do que é considerado discurso de ódio nas plataformas da empresa.
A decisão gerou polêmicas e levantou preocupações relacionadas à facilidade de compartilhar desinformação e discursos preconceituosos. Você pode relembrar o caso aqui e aqui.
No entanto, o Conselho de Supervisão da Meta, um grupo independente criado pela própria Meta para ajudar a empresa nas decisões de moderação de conteúdo, não aprovou completamente as mudanças. A resposta da entidade veio em uma publicação divulgada nesta terça-feira (23).
Por enquanto, mudança na moderação de conteúdo vale apenas nos EUA (Imagem: Tada Images/Shutterstock)
Conselho de Supervisão da Meta respondeu às mudanças na moderação de conteúdo
A publicação do Conselho respondeu às novas políticas de moderação de conteúdo e discurso de ódio comunicadas pela Meta em janeiro. No texto, o grupo afirma que as políticas foram “anunciadas às pressas, em desacordo com o procedimento regular” e pediu que a empresa fornecesse mais informações sobre as novas regras.
A entidade também solicitou à Meta que avaliasse o impacto das políticas em grupos vulneráveis. Além disso, pediu que a empresa divulgasse essas conclusões publicamente e atualizasse o Conselho a cada seis meses.
Vale lembrar que a flexibilização das regras relacionadas a discurso de ódio pode afetar pessoas da comunidade LGBTQIA+ e imigrantes, que são alvos frequentes de publicações preconceituosas. A mudança veio poucas semanas antes da posse do presidente Donald Trump, numa tentativa de se aproximar do republicano no que diz respeito à “liberdade de expressão”.
Por enquanto, as novas regras valem apenas para os Estados Unidos – que estão sendo considerados uma espécie de laboratório de teste antes da implementação em mais países. O Conselho ainda declarou que está conduzindo discussões com a Meta para moldar a verificação de fatos fora dos EUA.
Verificação de fatos de forma profissional foi substituída por sistema de notas da comunidade, como já existe no X (Imagem: JarTee / Shutterstock)
Qual a influência real do Conselho de Supervisão da Meta?
Como lembrou o TechCrunch, o Conselho de Supervisão tem capacidade limitada para orientar as políticas mais amplas da Meta. Porém, a empresa pode conceder à entidade poder para reformular regras que não estejam de acordo com o que foi pontuado.
Em dois casos envolvendo vídeos de mulheres transgênero no Facebook e no Instagram, nos Estados Unidos, o Conselho corroborou com a decisão da Meta de manter o conteúdo, apesar de denúncias. Também recomendou à empresa que tirasse o termo “transgenerismo” da política de Conduta de Ódio;
Já em outro caso, o Conselho anulou uma decisão da Meta de manter postagens anti-imigração publicadas no Facebook no Reino Unido, em 2024. A entidade apontou que a big tech agiu lentamente para remover conteúdo anti-muçulmano e anti-imigração, e que os conteúdos violavam as regras de incitação à violência.
Basicamente, no caso dessa vez, o Conselho está pedindo mais explicações relacionadas à moderação de conteúdo e discurso de ódio nos EUA. Na prática, nada mudou ainda.
A Metaanunciou a substituição da verificação de fatos profissionais pelas Notas da Comunidade em janeiro deste ano. Agora, a big tech revelou que começará os testes do recurso em 18 de março no Facebook, Instagram e Threads.
Após repercussão internacional, as Notas valerão apenas nos Estados Unidos, que servirão como uma espécie de laboratório de testes.
Assim ficará uma nota no Instagram (Imagem: Meta/Reprodução)
Notas da Comunidade geraram polêmicas
A Meta anunciou a substituição dos verificadores de fatos profissionais pelas Notas da Comunidade em janeiro, e gerou polêmicas. A intenção é tornar a moderação de conteúdo menos propensa a vieses, já que, no esquema anterior, muitas publicações eram bloqueadas por motivos ideológicos (pelo menos, é o que a empresa diz).
As Notas da Comunidade já existem no X. Basicamente, é um esquema de moderação coletiva, em que os próprios usuários podem publicar mensagens desmentindo informações falsas ou adicionando contexto a uma publicação. Você pode entender melhor a diferença entre verificação profissional e as notas aqui.
Em publicação de blog, a Meta revelou que está se baseando na abordagem do X, permitindo que os colaboradores escrevam e avaliem outras notas. No entanto, de início, nem todas serão publicadas, “a menos que colaboradores com uma variedade de pontos de vista concordem amplamente com elas”. Isso será possível graças ao algoritmo de código aberto do X, que inclui o sistema de classificação.
Após repercussão e preocupação internacional negativa, a Meta está liberando o recurso apenas nos Estados Unidos, como uma espécie de laboratório de testes. Em outros países, o programa de verificação de fatos profissional continua valendo (mas isso pode mudar no futuro, dependendo do desempenho das Notas da Comunidade nos EUA).
Usuários terão que submeter nota para análise antes da publicação (Imagem: Meta/Reprodução)
Como vão funcionar as Notas da Comunidade da Meta
Cerca de 200 mil potenciais colaboradores se inscreveram para a lista de espera da Meta. No entanto, eles serão admitidos gradualmente e de forma aleatória conforme o programa avança;
As Notas da Comunidade terão limite de 500 caracteres e precisam incluir um link relacionado, comprovando a informação.
Quando as notas finalmente forem publicadas, elas não terão o nome do autor associado. De acordo com a big tech, a intenção é que a nota esteja disponível com base em sua utilidade, não em quem as escreveu;
O recurso estará disponível em inglês, espanhol, chinês, vietnamita, francês e português.
Como contribuir?
Para participar do programa de Notas da Comunidade, os usuários devem ter mais de 18 anos, uma conta em situação regular há mais de seis meses e um número de telefone verificado (ou autenticação de dois fatores).
Assim ficará uma nota no Threads (Imagem: Meta/Reprodução)
Na publicação, a Meta escreveu que lançou o programa de verificação de fatos em 2016, para que a moderação seja mais “neutra”. No entanto, a empresa percebeu que algumas publicações e perfis estavam sendo punidos por visões ideológicas, que não necessariamente ferem as diretrizes da comunidade.
Vale lembrar que, também no início do ano, a big tech anunciou mudanças em relação ao que é permitido nas redes sociais, abrindo portas para conteúdos machistas, homofóbicos e transfóbicos. Saiba mais aqui.
A mudança vem na tentativa de resolver o ‘problema da ideologia’. Veja o que a empresa disse:
Esperamos que as Notas da Comunidade sejam menos tendenciosas do que o programa de verificação de fatos de terceiros que ele substitui (…). Quando lançamos o programa de verificação de fatos em 2016, deixamos claro que não queríamos ser os árbitros da verdade e acreditávamos que recorrer a organizações especializadas em verificação de fatos era a melhor solução disponível. Mas não foi assim que as coisas aconteceram, principalmente nos Estados Unidos. Os especialistas, como todo mundo, têm seus próprios preconceitos e perspectivas políticas. Isso ficou evidente nas escolhas que alguns fizeram sobre o que verificar e como verificar os fatos. As Notas da comunidade permitem que mais pessoas, com mais perspectivas, adicionem contexto a mais tipos de conteúdo e, como a publicação de uma nota exige a concordância de diferentes pessoas, acreditamos que ela será menos propensa a preconceitos.
Segundo informações trazidas pela BBC, o TikTok estaria lucrando com transmissões ao vivo envolvendo sexo com crianças e adolescentes de até 15 anos.
A BBC conversou com três mulheres do Quênia e todas elas disseram que começaram com a atividade ainda na adolescência. Elas afirmaram ao portal que usaram a rede social chinesa para anunciar abertamente e negociar valores por realização de conteúdos sexuais explícitos, que seriam encaminhados por outras plataformas.
Anteriormente, a BBC obteve informações de que o TikTok recebe 70% de valores realizados em transmissões ao vivo, algo negado pela empresa. Diz ainda que a rede social proíbe a solicitação, mas sabe que ela acontece na plataforma.
Moças firmaram que usaram a rede social chinesa para anunciar abertamente e negociar valores por realização de conteúdos sexuais explícito (Imagem: Sergei Elagin/Shutterstock)
Como são as transmissões sexuais infantis na plataforma chinesa
Essas transmissões, diretamente do Quênia, são comuns e populares na rede social;
Todas as noites, em um período de uma semana, a BBC achou, pelo menos, uma dúzia de mulheres dançando de forma sugestiva para uma audiência de centenas de pessoas;
As lives acontecem com música alta ao fundo e os usuários conversando entre si. Enquanto isso, uma mulher fica dançando, rebolando e posando de forma provocativa;
“Mandem mensagem para mim para kinembe, pessoal. Toque, toque”, dizem. “Toque, toque” é uma expressão comum utilizada por usuários da rede social para pedirem, a seus espectadores, que curtam sua live;
Já a expressão “kinembe” significa “clitóris” no idioma suaíli. E “mandem mensagem” é para que o usuário que está acompanhando a transmissão envie uma mensagem privada para solicitar algo personalizado, como masturbação, tirar a roupa, ou, ainda, realizar atividades sexuais com outras mulheres;
Outras transmissões acompanhadas pela BBC continham gírias sexuais codificadas para anúncio de serviços sexuais.
Além disso, vários emojis de presentes aparecem na tela. Isso são os usuários enviando quantias para as “modelos”, servindo também como pagamento do conteúdo explícito a ser enviado por outras plataformas, pois qualquer conteúdo com atos sexuais e nudez são removidos pela rede social chinesa.
Um ex-moderador queniano do TikTok afirmou que “não é do interesse do TikTok reprimir a solicitação de sexo. Quanto mais pessoas derem presentes em uma transmissão ao vivo, [mais] receita para o TikTok”. Ele é um dos 40 mil moderadores globais da empresa, segundo dados da própria.
Ele trabalhou para a empresa Teleperformance, terceirizada pelo TikTok para moderação de conteúdo. Ele afirmou que os moderadores recebem um guia de referência de palavras ou ações sexuais proibidas, mas que ele é restritivo, não levando em consideração gírias e gestos provocativos.
“Você pode ver pela maneira como elas estão posando, com a câmera no decote e nas coxas [por exemplo], que elas estão solicitando sexo. Elas podem não dizer nada, mas você pode ver que elas estão sinalizando para a conta delas [de outra plataforma], mas não há nada que eu possa fazer“, contou.
Outro profissional da Teleperformance disse que a moderação também é limitada por conta da dependência cada vez maior da plataforma chinesa da inteligência artificial (IA), o que, segundo ele, não é sensível o bastante para compreender gírias sexuais locais.
Além da dupla, outros cinco moderadores que trabalham para o TikTok expressaram suas preocupações com a situação. O primeiro moderador afirmou que cerca de 80% das lives sinalizadas nos feeds dos moderadores eram sexuais ou anunciavam serviços sexuais — e o TikTok estaria a par disso.
Moderador afirmou que cerca de 80% das lives sinalizadas nos feeds dos moderadores eram sexuais ou anunciavam serviços sexuais (Imagem: Ascannio/Shutterstock)
Sobre a exploração infantil em lives, a companhia estaria ciente há bastante tempo e conduziu, em 2022, uma investigação interna sobre o tema. Contudo, segundo ação judicial movida pelo Estado de Utah (EUA) contra o TikTok no ano passado, a empresa teria ignorado tal questão, pois “lucrou significativamente” com as transmissões.
Em resposta, a plataforma diz que o processo (que segue em andamento) ignorou “medidas proativas” tomadas para melhora da segurança. Por sua vez, a instituição de caridade ChildFund Kenya informa que o Quênia é pronto crítico para esse tipo de abuso. Isso é agravado por demografia jovem e uso generalizado da internet.
A África como um todo também tem moderação online fraca quando comparada ao ocidente, continua a instituição. A ChildFund Kenya e outras instituições que trabalham no setor disseram à BBC que crianças de até nove anos também participam dessas lives.
Adolescentes e mulheres jovens que conversaram com o portal britânico disseram que passam até seis ou sete horas por noite online e ganham, em média, £ 30 (R$ 223,67, na conversão direta), o que paga, por uma semana, a alimentação e o transporte dessas jovens.
Uma jovem de 17 anos de Nairóbi (Quênia) confirmou que “me vendo no TikTok. Danço nua. Faço isso porque é onde eu consigo ganhar dinheiro para me sustentar“. Ela mora em um bairro pobre, onde três mil moradores compartilham instalações sanitárias.
Ela disse, ainda, que o dinheiro que ganha garante alimentação para seu filho e ajuda sua mãe, que, desde que o marido morreu, vem batalhando para manter a casa.
A moça informou que conheceu o TikTok Lives por meio de um amigo quando tinha 15 anos. Esse amigo a ajudou a contornar as restrições de idade, pois somente maiores de 18 anos conseguem acessar lives. Além disso, precisam ter, ao menos, mil seguidores para utilizarem o serviço.
Ou seja, como a BBC bem define, usuários da rede social chinesa com muitos seguidores podem atuar como “cafetões digitais” e hospedar conteúdo sexual ao vivo. Alguns possuem contas reserva, pois já foram banidos ou suspensos no passado.
Eles sabem como evitar que os moderadores detectem as lives e, ao mesmo tempo, gerar a quantidade ideal de provocações sexuais que despertam o interesse de clientes. “Quando estiver dançando, afaste-se da câmera, senão você será bloqueada”, grita um dos cafetões a uma mulher que rebolava. Como troca por serem hospedadas, as moças dão parte do que ganham aos cafetões.
A moça de 17 anos que atua no TikTok disse também que esse relacionamento pode se tornar explorador com incrível rapidez e que seu cafetão digital tinha ciência de que ela tinha menos de 18 anos. “Ele gosta de usar garotas jovens”, descreveu.
Ele a pressionou para obter mais lucro, significando que ela precisava realizar as transmissões ao vivo mais frequentemente, ficando com parcela maior dos ganhos dela do que ela esperava. “Então, se um emoji for enviado custando 35.000 ksh (£ 213/R$ 1.588,06), ele pega 20.000 ksh (£ 121/R$ 902,13) e você ganha apenas 15.000 ksh (£ 91/R$ 678,46)“, disse.
Ela se sentia “algemada“. “Você é quem está sofrendo porque ele fica com a maior parte e, ainda assim, é você quem tem sido usada.” Outra moça, que tinha 15 anos quando começou os trabalhos no TikTok, recebeu solicitações de homens na Europa para serviços em outras plataformas. Um usuário alemão, por exemplo, quis que ela acariciasse seus seios e genitais por dinheiro.
Hoje, ela tem 18 anos e esclareceu que se arrepende de ter trabalhado online dessa maneira. Alguns dos vídeos enviados por ela aos usuários por meio de outras plataformas foram, então, carregados nas redes sociais sem seu consentimento, disse.
Os vizinhos da moça descobriram e disseram a outros jovens que não tivessem contato com ela. “Me rotulam como uma ovelha perdida e dizem aos jovens que eu os enganarei. Estou solitária na maior parte do tempo“, desabafou.
Outra moça recebeu solicitações de homens na Europa para serviços em outras plataformas (Imagem: Olivier Bergeron/Unsplash)
Outras meninas e mulheres que falaram com a BBC alegaram que foram pagas, também, para conhecer usuários da rede social e fazer sexo com os cafetões.
Os moderadores de conteúdo do Quênia afirmam que o TikTok tem interesse em se estabelecer na África, mas não empregou funcionários suficientes para monitorar o conteúdo eficazmente. O governo do Quênia mostrou que reconhecia a situação. Em 2023, o presidente William Ruto realizou reunião com o CEO do TikTok, Shou Zi Chew, para pedir melhor moderação de conteúdo na plataforma.
Ruto e o governo disseram que a empresa concordou com regulamentação mais rígida, com um escritório do TikTok no Quênia para ajudar a coordenar as operações. Mas os moderadores disseram que, mais de 18 meses depois, nada disso aconteceu.
O que diz o TikTok
Um porta-voz do TikTok disse à BBC:
“O TikTok tem tolerância zero para exploração. Aplicamos políticas de segurança rigorosas, incluindo regras robustas de conteúdo ao vivo, moderação em 70 idiomas, incluindo suaíli, e fazemos parcerias com especialistas e criadores locais, incluindo nosso Conselho Consultivo de Segurança da África Subsaariana para fortalecer continuamente nossa abordagem.”
A Teleperformance respondeu que seus moderadores “trabalham diligentemente para marcar e sinalizar conteúdo gerado por usuários com base nos padrões da comunidade e nas diretrizes do cliente” e que os sistemas de seus clientes não estão configurados para permitir que a companhia remova material ofensivo ou o denuncie às autoridades.
O Olhar Digital entrou em contato com o TikTok Brasil e aguarda retorno.
Cart is empty 
