Destaque-Golpe-deepfake-1024x576

Deepfakes: lei endurece punição para uso criminoso de IA contra mulheres

Crimes de violência psicológica contra mulheres cometidos com uso de tecnologias como inteligência artificial (IA) têm punição mais severa. A lei agora permite o aumento da pena em até metade quando a agressão inclui alterações na fala ou na imagem da vítima – em casos de “fake nudes” ou “deep nudes”, por exemplo.

Essas montagens pornográficas falsas, criadas a partir de fotos reais, são uma forma de violência psicológica. Desde 2021, esse tipo de agressão é crime, com pena de seis meses a dois anos de prisão e multa. Com a nova regra, uma condenação de dois anos, por exemplo, pode chegar a três anos.

Mudança na lei contra ‘deep nudes’ é coerente, segundo advogada

Para a advogada Juliana Abrusio, especialista em direito digital do escritório Machado Meyer, a mudança é coerente. “A violência psicológica é qualquer conduta que cause dano emocional à mulher, em detrimento de seu desenvolvimento ou visando controlar suas ações”, explicou, em entrevista ao G1. “Quando envolve uso de IA, os efeitos costumam ser ainda mais profundos.

(Imagem: Reprodução/Kapersky)

Segundo a especialista, o uso da tecnologia amplia o sofrimento porque permite que o conteúdo seja criado e compartilhado rapidamente, atingindo muitas pessoas em pouco tempo. Além disso, a vítima perde o controle sobre o alcance das imagens e tem dificuldade de identificar os autores.

“Já ouvi mulheres dizerem que preferiam ter levado uma surra a ver montagens pornográficas com suas imagens circulando nas redes”, relatou Juliana.

As orientações gerais para vítimas de “fake nudes” são:

  • Reunir provas;
  • Denunciar nas plataformas;
  • Registrar boletim de ocorrência;
  • Buscar orientação jurídica (se possível).

‘Pornografia da vingança’ vai virar crime nos EUA

O presidente dos Estados Unidos, Donald Trump, deve sancionar a decisão que tipifica como crime federal a publicação da chamada “pornografia de vingança”. O projeto foi aprovado pela Câmara de Representantes dos EUA nesta semana.

deepfake nas eleições dos estados unidos
(Imagem: Lightspring/Shutterstock)

No total, foram 409 votos a favor e dois contrários. Chamada de lei “Take it Down”, ela prevê a punição de publicações não consensuais de imagens íntimas na internet, sejam elas reais ou criadas por inteligência artificial.

Leia mais:

Conteúdos precisarão ser removidos das plataformas

  • Em março, Trump prometeu promulgar o projeto de lei durante uma sessão conjunta do Congresso;
  • A nova legislação tem como objetivo combater a violência contra a mulher;
  • Ao mesmo tempo, visa impedir o avanço dos chamados deepfakes;
  • A primeira-dama Melania Trump endossou o projeto e disse que a aprovação “é uma declaração poderosa” da unidade do país em “proteger a dignidade, a privacidade e a segurança”;
  • Além da punição, as regras aprovadas ainda exigem que os conteúdos sejam removidos das plataformas (daí o nome).

Saiba mais nesta matéria do Olhar Digital.

O post Deepfakes: lei endurece punição para uso criminoso de IA contra mulheres apareceu primeiro em Olhar Digital.

deepfake-1-1-1024x619-2

Deepfakes estão cada vez mais realistas – e já simulam até batimento cardíaco

Deepfakes estão se tornando cada vez mais realistas — a ponto de agora conseguirem simular até batimentos cardíacos e alterações sutis na cor da pele, características antes usadas para identificar vídeos falsos.

Pesquisadores da Universidade Humboldt de Berlim demonstraram que os modelos mais avançados de deepfake conseguem replicar sinais fisiológicos tão convincentes que enganam até detectores especializados.

O estudo, publicado na revista Frontiers in Imaging, revelou que os vídeos falsos podem até “herdar” sinais cardíacos reais dos vídeos originais usados para manipulá-los.

O que os pesquisadores descobriram

  • Por meio de um novo sistema baseado em fotopletismografia remota (rPPP) — uma técnica que analisa variações de luz refletida na pele para medir a frequência cardíaca — os cientistas inicialmente conseguiram distinguir vídeos reais de falsos.
  • No entanto, ao testarem deepfakes de alta qualidade, perceberam que muitos deles exibiam batimentos aparentemente reais, mesmo sem que esses sinais tivessem sido programados conscientemente.
  • Isso ocorre porque pequenos detalhes, como a coloração natural da pele no vídeo original, são transferidos acidentalmente para o vídeo manipulado, gerando um “pulso fantasma”.
Tecnologia avança e torna falsificações digitais quase indistinguíveis de vídeos reais – Imagem: R.bussarin/Shutterstock

Leia mais

Apesar do avanço dos falsificadores digitais, os autores do estudo acreditam que ainda há formas de detecção eficazes.

Enquanto os deepfakes conseguem simular uma frequência cardíaca global, ainda não reproduzem corretamente as variações espaciais e temporais do fluxo sanguíneo no rosto. Detectores de nova geração poderão explorar essa fragilidade para recuperar a vantagem.

A descoberta acende um alerta sobre os riscos do uso malicioso de deepfakes, que vão desde campanhas de desinformação até fraudes sofisticadas.

Ainda que esse cenário pareça futurista, os pesquisadores alertam que a corrida tecnológica entre criadores e detectores está longe de terminar — e os falsos continuam a melhorar.

deepfake
Os deepfakes estão mais vivos: agora têm até batimento cardíaco – Imagem: shuttersv / Shutterstock.com

O post Deepfakes estão cada vez mais realistas – e já simulam até batimento cardíaco apareceu primeiro em Olhar Digital.

deepfake-1-1-1024x619-1

Médicos criados por IA estão vendendo tratamentos falsos no TikTok

Um levantamento realizado pela empresa de cibersegurança ESET aponta que o algoritmo do TikTok está recomendando vídeos de saúde e bem-estar criados por inteligência artificial. O problema é que estes conteúdos também usam informações totalmente falsas.

Os vídeos são gerados a partir de técnicas de deepfake. Segundo o trabalho, a divulgação deste tipo de conteúdo pode gerar riscos para a saúde dos usuários, uma vez que são recomendados tratamentos ineficazes e até curas falsas para uma série de doenças.

Conteúdos podem gerar riscos para a saúde das pessoas

O relatório ainda aponta que os vídeos falsos têm como objetivo vender produtos sem eficácia comprovada de forma científica ou simplesmente gerar engajamento para as contas. Dessa forma, no entanto, eles podem prejudicar tratamentos reais de pessoas com alguma condição médica.

Vídeos são criados a partir de técnicas de deepfakes (Imagem: R.bussarin/Shutterstock)

Durante a pesquisa foram encontrados mais de 20 perfis no TikTok e no Instagram usando falsos médicos gerados por IA. Vários deles foram tirados do ar depois da denúncia, mas a facilidade de criação de deepfakes dificulta a eliminação completa destes conteúdos.

Segundo o trabalho, os conteúdos falsos simulam formatos reais de vídeo. A fala promove suplementos vendidos por um perfil específico ou cita produtos naturais como mais eficazes que remédios para certas doenças. Em alguns casos, imagens de médicos de verdade são recriadas digitalmente para dar maior credibilidade a o vídeo.

Leia mais

Na imagem, uma mão segura um celular cuja tela apresenta o logo do TikTok
TikTok não se pronunciou oficialmente sobre as denúncias (Imagem: 19 STUDIO/Shutterstock)

Formas de identificar conteúdos criados pela IA

  • O relatório da ESET apresentou algumas dicas para evitar cair nesses golpes.
  • A primeira delas é prestar atenção em questões como falta de sincronia labial com fala, movimentação robótica ou erros básicos de dicção;
  • Problemas na edição do conteúdo, imagens desfocadas ou mudanças bruscas na luz também podem sugerir uma fraude.
  • Nunca confie em perfis criados há pouco tempo, com baixa quantidade de vídeos ou seguidores.
  • Além disso, promessas como ‘cura milagrosa’, ‘resultados garantidos’ ou ‘tratamento com 100% de eficácia’ devem ser descartados imediatamente.
  • Por fim, sempre busque profissionais médicos reais para confirmar as informações.

O Olhar Digital procurou o TikTok, que ainda não se manifestou.

O post Médicos criados por IA estão vendendo tratamentos falsos no TikTok apareceu primeiro em Olhar Digital.

Deepfake

Espanha propõe criminalizar deepfakes sexuais não consensuais com IA

O governo da Espanha apresentou nesta terça-feira (25) um projeto de lei que criminaliza o uso de inteligência artificial para criar imagens ou vídeos sexualmente explícitos de uma pessoa, sem seu consentimento, utilizando seu rosto ou corpo, conforme informações da AFP.

A tecnologia de IA, especialmente no campo dos “deepfakes” — vídeos e imagens geradas por computador que imitam uma pessoa real — tem gerado crescente preocupação global devido ao seu uso indevido.

Detalhes da nova legislação espanhola

  • De acordo com um estudo de 2019 da empresa holandesa Sensity, cerca de 96% dos vídeos deepfakes disponíveis online são pornografia não consensual, com a maioria retratando mulheres.
  • O governo espanhol propôs que esses “deepfakes” de caráter sexual ou extremamente insultante sejam tratados como crimes contra a integridade moral.
  • O Ministro da Justiça, Félix Bolaños, afirmou que a legislação tem como objetivo proteger crianças, adolescentes e jovens dos riscos da tecnologia digital, assegurando também seu direito à privacidade.
Deepfakes costumam criar conteúdos não consensuais de mulheres em situações sexualmente explícitas – Créditos: metamorworks/Shutterstock

Leia mais:

A proposta surge em meio a um aumento de casos envolvendo a criação e distribuição de imagens falsas de menores de idade, geradas com IA. Em alguns casos, essas imagens foram usadas para extorsão, com os criadores exigindo dinheiro para não divulgar as imagens.

Além disso, o projeto de lei inclui exigências para que fabricantes de smartphones e tablets integrem sistemas de controle parental gratuitos, ativados por padrão, e obriga influenciadores digitais a implementarem “sistemas de verificação de idade” para seus seguidores.

espanha
Em meio a uma onda de aumento de deepfakes, Espanha decide agir com legislação para proteger privacidade das pessoas atingidas – Imagem: Dancing_Man/Shutterstock

O post Espanha propõe criminalizar deepfakes sexuais não consensuais com IA apareceu primeiro em Olhar Digital.

Destaque-Golpe-deepfake-1024x576

Polêmica no Gemini: modelo está removendo marcas d’água de imagens geradas por IA

Na semana passada, o Google expandiu acesso gratuito à ferramenta de geração de imagens do modelo Gemini 2.0 Flash. Agora, usuários descobriram que o recurso não apenas pode produzir imagens controversas, como também remove marcas d’água de conteúdos feitos por inteligência artificial.

A rotulagem se popularizou justamente para impedir que imagens geradas usando IA sejam confundidas com obras reais.

Rotulagem de imagens de IA é amplamente adotada pelos chatbots (Imagem: Reprodução/Kapersky)

Atualização do Gemini pode ser um problemão

A atualização do Gemini incluiu a liberação do Gemini 2.0 Flash gratuitamente. Entre os recursos disponíveis, está uma ferramenta de geração e edição de imagens usando IA.

De acordo com o TechCrunch, relatos de usuários indicaram que o recurso estaria gerando imagens de celebridades e personagens protegidos por direitos autorais sem nenhum tipo de ressalva.

Além disso, o recurso é capaz de remover marcas d’água de IA prévias (uma rotulagem para sinalizar que uma imagem foi gerada artificialmente). Os usuários @deedydas e @tanayj publicaram no X exemplos do que o Gemini pode fazer:

De acordo com os relatos, a ferramenta é bastante avançada. Além de remover as marcas d’água, o Gemini estaria corrigindo os espaços vazios, tornando as imagens mais realistas.

Leia mais:

Marcas d’água servem como proteção contra imagens geradas por IA

Com o avanço das ferramentas geradoras de imagens, veio a preocupação com a desinformação, mediante a possibilidade de que os conteúdos artificiais sejam confundidos com imagens reais. As empresas do setor concordaram em implementar marcas d’água de IA, uma espécie de rótulo para sinalizar que um conteúdo foi produzido artificialmente.

O Claude 3.7 Sonnet, da Anthropic, se recusa explicitamente a remover esse rótulo, alegando que se trata de algo “antiético e potencialmente ilegal”. O GPT-4o também impede a ação.

O Gemini parece estar falhando nisso:

  • Além da desinformação, a ferramenta levanta preocupações envolvendo o uso de conteúdos protegidos por direitos autorais;
  • No entanto, por ora, o gerador está disponível apenas para uso “experimental”, não para “produção”;
  • Os relatos também destacam que, apesar de avançado, o removedor de marcas d’água não é perfeito, com dificuldades com rótulos semitransparentes ou que cobrem grandes partes da imagem.

O post Polêmica no Gemini: modelo está removendo marcas d’água de imagens geradas por IA apareceu primeiro em Olhar Digital.

google-1-1024x684

Seu Direito Digital: fim das deepfakes?

Quinta-feira é dia da coluna Seu Direito Digital no Olhar Digital News. O consultor de privacidade e segurança Leandro Alvarenga repercute os principais assuntos jurídicos no setor de tecnologia e tira as dúvidas dos nossos leitores.

Seu Direito Digital: fim das deepfakes?

A Meta está ampliando uma ferramenta de reconhecimento facial de celebridades usada para detectar anúncios fraudulentos e evitar golpes. A tecnologia bloqueia conteúdos com imagens falsas automaticamente.

Haverá também uma opção de reconhecimento facial para usuários ‘comuns’ no processo de recuperação de contas bloqueadas. Quando um criminoso usa um serviço para criar uma deepfake, a empresa responsável pode ser punida?

Google estaria recuando na tentativa de desmembrar operação (Imagem: Proxima Studio/Shutterstock)

Seu Direito Digital: Google pode ser ‘fatiado’ nos EUA

O Google pediu ao governo dos Estados Unidos para recuar na tentativa de desmembrar negócios da empresa, segundo uma fonte da Reuters. O Departamento de Justiça tem dois processos contra a big tech.

A companhia estaria preocupada que as propostas atuais prejudiquem a economia norte-americana e a segurança nacional. Quais são as possíveis consequências da divisão do Google para a big tech, para o usuário e para o mercado?

Leia mais:

Seu Direito Digital: como declarar IR sem informe de rendimentos?

Agora uma dúvida do nosso leitor Marlon: “Não recebi o informe de rendimentos para declaração do imposto de renda na minha empresa. Como devo proceder?”

O post Seu Direito Digital: fim das deepfakes? apareceu primeiro em Olhar Digital.