Deepnudes feitos por IA viram ameaça e desafiam combate à violência digital

A criação de imagens íntimas falsas por meio da inteligência artificial se tornou uma nova preocupação no ambiente digital. Chamados de deepnudes, esses conteúdos utilizam ferramentas de IA para manipular rostos e corpos de pessoas reais sem autorização, criando materiais falsos com aparência realista.

Casos recentes envolvendo ferramentas como o Grok, do X (antigo Twitter), e outras plataformas de inteligência artificial reacenderam o debate sobre uma prática que representa uma nova forma de violência sexual no ambiente online.

Mulheres, adolescentes e crianças estão entre os grupos mais afetados pelos episódios recentes, mas a exposição indevida pode atingir qualquer pessoa que tenha imagens disponíveis na internet.

O problema não está apenas na criação do conteúdo, mas também na facilidade de compartilhamento. Uma imagem manipulada pode circular rapidamente por redes sociais, aplicativos de mensagens e diferentes plataformas digitais, ampliando os impactos para quem é vítima.

Impactos vão além da exposição na internet

A divulgação de deepnudes pode provocar consequências emocionais, sociais e profissionais. O medo de reencontrar as imagens circulando, sofrer julgamentos ou enfrentar problemas em relacionamentos e no trabalho costuma gerar insegurança e dificuldade para buscar ajuda.

Por isso, além das medidas jurídicas para responsabilizar os envolvidos e remover o material, o apoio psicológico também pode ser importante para lidar com os efeitos causados pela violência digital.

O primeiro passo após identificar uma imagem falsa é buscar acolhimento e evitar enfrentar a situação sozinho. Ter apoio de uma pessoa de confiança pode ajudar na organização das próximas medidas, como reunir provas e procurar os canais adequados de denúncia.

Como agir após descobrir um deepnude

A preservação das provas deve ser feita o quanto antes. Conteúdos desse tipo podem desaparecer caso sejam apagados por quem publicou ou removidos pelas próprias plataformas.

A vítima deve guardar links, capturas de tela, vídeos, mensagens e qualquer registro relacionado ao caso. Também é importante identificar onde o material está circulando, quais perfis divulgaram e quais plataformas foram utilizadas.

Antes de solicitar a remoção, reunir as informações disponíveis ajuda a evitar a perda de dados importantes para uma eventual investigação.

A certificação das provas digitais por ferramentas especializadas também pode auxiliar na preservação dos registros, documentando o acesso ao conteúdo e contribuindo para a validade jurídica do material apresentado.

Denúncia e medidas judiciais

Após organizar as evidências, o conteúdo deve ser denunciado diretamente às plataformas responsáveis. Normalmente, materiais íntimos divulgados sem consentimento são enquadrados pelas empresas como violações relacionadas a conteúdo sexual não consensual ou assédio.

Também é recomendado registrar um boletim de ocorrência. A vítima não precisa indicar qual artigo da legislação deve ser aplicado, pois o enquadramento jurídico será feito pelas autoridades responsáveis pela investigação.

Com a abertura do procedimento policial, o caso pode avançar para análise do Ministério Público. Além da responsabilização criminal, a vítima pode buscar a Justiça na esfera cível para solicitar indenização por danos morais e materiais, além da retirada do conteúdo.

Tecnologia ajuda no bloqueio de novos compartilhamentos

Um dos mecanismos utilizados para combater a circulação de conteúdos digitais é o chamado hash, uma espécie de identificação única de um arquivo.

Quando uma imagem ou vídeo é identificado por esse código, plataformas podem impedir que arquivos exatamente iguais sejam reenviados. O recurso ajuda a reduzir a repetição do compartilhamento, embora não impeça completamente novas versões modificadas do material.

Alterações como cortes, filtros ou mudanças no formato podem gerar um novo código e permitir que o conteúdo volte a circular. Por isso, o monitoramento e as denúncias continuam sendo necessários mesmo após uma remoção inicial.

Cuidados digitais podem reduzir riscos

Embora nenhuma medida elimine totalmente a possibilidade de uma vítima sofrer esse tipo de violência, alguns hábitos aumentam a segurança no ambiente online.

Manter perfis privados quando possível, controlar quem pode visualizar publicações, limitar marcações em fotos e revisar seguidores são algumas atitudes recomendadas.

Também é importante utilizar autenticação em duas etapas, criar senhas diferentes para cada serviço e evitar o compartilhamento de imagens pessoais com pessoas ou plataformas desconhecidas.

Aplicativos suspeitos que solicitam fotografias para supostas confirmações de identidade e links que prometem funções inexistentes nas redes sociais devem ser evitados, pois podem ser utilizados para coletar dados ou aplicar golpes.

Novas regras aumentam responsabilidade das plataformas

O combate aos deepnudes também passou a envolver mudanças nas obrigações das plataformas digitais.

Os Decretos nº 12.975 e nº 12.976 atualizaram regras relacionadas ao Marco Civil da Internet após decisão do Supremo Tribunal Federal (STF) que declarou inconstitucional parte do artigo 19 da legislação.

As novas medidas ampliam as responsabilidades de empresas como Meta, Google, TikTok e X diante da circulação de conteúdos ilegais, incluindo imagens íntimas falsas produzidas por inteligência artificial.

Na prática, as plataformas deverão adotar medidas mais rápidas após denúncias, criar mecanismos para enfrentar conteúdos íntimos gerados artificialmente e manter canais permanentes de comunicação para receber notificações.

As empresas também poderão responder civilmente em casos de omissão sistemática diante de conteúdos criminosos.

ANPD passa a fiscalizar plataformas

Com as novas regras, a Agência Nacional de Proteção de Dados (ANPD) assume papel de fiscalização sobre o cumprimento das obrigações pelas plataformas.

A atuação do órgão será voltada para verificar se as empresas possuem medidas capazes de prevenir a circulação em massa de conteúdos criminosos, anúncios enganosos e golpes, além de manter canais acessíveis para denúncias.

A discussão sobre a regulamentação ainda envolve desafios relacionados à fiscalização, aos limites da atuação das plataformas e ao equilíbrio entre combate a conteúdos ilegais e liberdade de expressão.

Enquanto as ferramentas de inteligência artificial continuam avançando, a preservação de provas, a denúncia rápida e o acesso a apoio jurídico e psicológico permanecem como medidas essenciais para enfrentar os impactos dos deepnudes.