deepfake-1-1-1024x619

‘Pornografia da vingança’ vai virar crime nos EUA

by with No Comment DEEPFAKESEstados UnidosSegurança e Privacidade

O presidente dos Estados Unidos, Donald Trump, deve sancionar nos próximos dias a decisão que tipifica como crime federal a publicação da chamada “pornografia de vingança”. O projeto foi aprovado pela Câmara de Representantes dos EUA nesta semana.

No total, foram 409 votos a favor e dois contrários. Chamada de lei ‘Take it Down’, ela prevê a punição de publicações não consensuais de imagens íntimas na internet, sejam elas reais ou criadas por inteligência artificial.

Conteúdos precisarão ser removidos das plataformas

  • Em março, Trump prometeu promulgar o projeto de lei durante uma sessão conjunta do Congresso.
  • A nova legislação tem como objetivo combater a violência contra a mulher.
  • Ao mesmo tempo, visa impedir o avanço dos chamados deepfakes.
  • A primeira-dama Melania Trump endossou o projeto e disse que a aprovação “é uma declaração poderosa” da unidade do país em “proteger a dignidade, a privacidade e a segurança”.
  • Além da punição, as regras aprovadas ainda exigem que os conteúdos sejam removidos das plataformas.
Nova legislação visa combater deepfakes (Imagem: R.bussarin/Shutterstock)

Leia mais

Deepfakes se tornaram um problema

Os vídeos ‘deepfakes’ geralmente são criados usando IA e outras ferramentas. Com o aperfeiçoamento destes recursos, é possível criar imagens realistas, dificultando a identificação de conteúdos falsos na internet.

É possível, por exemplo, criar imagens pornográficas falsas de mulheres reais. Estes conteúdos são então publicados sem o consentimento delas e se espalham rapidamente. Isso é chamado de “pornografia da vingança” porque muitas vezes envolve homens decepcionados com o fim de uma relação amorosa e que buscam se vingar de suas ex-companheiras.

Ilustração de deepfake de rosto de mulher
Deepfake permite, por exemplo, criar imagens pornográficas falsas de mulheres reais (Imagem: metamorworks/Shutterstock)

Alguns estados, como a Califórnia e a Flórida, já aprovaram leis que criminalizam a publicação de ‘deepfakes’ sexualmente explícitos.

Os críticos, no entanto, afirmaram que a nova legislação daria às autoridades maiores poderes de censura.

O post ‘Pornografia da vingança’ vai virar crime nos EUA apareceu primeiro em Olhar Digital.

shutterstock_2560083599-e1736359920574-1024x577

Fim das deepfakes? Meta amplia reconhecimento facial de celebridades para evitar golpes

by with No Comment DEEPFAKESreconhecimento facialSegurança e Privacidade

A Meta está ampliando uma ferramenta de reconhecimento facial de celebridades usada para detectar anúncios fraudulentos e evitar golpes. Famosos do Reino Unido, União Europeia e Coreia do Sul poderão ativar a tecnologia, que bloqueia conteúdos com imagens falsas automaticamente.

Haverá também uma opção de reconhecimento facial para usuários ‘comuns’ no processo de recuperação de contas bloqueadas.

Tecnologia foi anunciada no final do ano passado (Imagem: miss.cabul/Shutterstock)

Tecnologia de reconhecimento facial inibe deepfakes de famosos

A Meta anunciou a tecnologia em outubro do ano passado e já testou em alguns países. Agora, ampliou o uso para celebridades do Reino Unido, União Europeia e Coreia do Sul.

Na prática, a ferramenta escaneia a foto de perfil e compara o rosto da pessoa famosa com outros rostos em anúncios fraudulentos na internet. Se a tecnologia detectar e confirmar que trata-se do uso indevido da imagem de uma pessoa, bloqueia automaticamente o conteúdo suspeito.

De acordo com David Agranovich, diretor de ameaças cibernéticas da Meta, à AFP, celebridades das regiões onde o reconhecimento facial está disponível receberão notificações nas próximas semanas. Cabe a cada um ativá-la manualmente. Não está claro como a empresa define quem são os famosos.

Leia mais:

Fim das deepfakes?

Não é incomum ver imagens geradas artificialmente usando o rosto de uma pessoa famosa para anunciar produtos ou até incentivar ações envolvendo dinheiro (golpes, por exemplo). São as famosas deepfakes, que, no caso das celebridades, são chamadas de “celeb-bait”.

Agranovich explica a intenção da Meta:

Acreditamos que esta ferramenta nos ajudará a identificar o uso incorreto de imagens de figuras públicas, mesmo que o anúncio utilize inteligência artificial generativa.

David Agranovich, diretor de ameaças cibernéticas da Meta

Deepfake
Ferramenta de reconhecimento facial pode evitar golpes usando imagens de celebridades (Imagem: Shutterstock)

Reconhecimento facial também está disponível para usuários ‘comuns’

  • A Meta também anunciou que vai disponibilizar o reconhecimento facial no processo de recuperação de contas. Nesse caso, vale para todos os usuários (não só os famosos).
  • Caso a conta esteja bloqueada e o usuário queira recuperá-la, basta gravar um vídeo curto para que a ferramenta verifique sua identidade;
  • A Meta deixou claro que os dados serão usados apenas no processo de recuperação da conta e eliminados logo em seguida.

O post Fim das deepfakes? Meta amplia reconhecimento facial de celebridades para evitar golpes apareceu primeiro em Olhar Digital.