Escândalo abrange 500 instituições e diversas vítimas menores; mensagens pessoais e fotos em grupos do Telegram estão envolvidos.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais foram expostas.’ Essa situação levanta preocupações sobre a utilização de pornografia e deepfake, que têm se tornado cada vez mais comuns na era digital.
Além disso, o uso de imagens manipuladas para criar conteúdo falso é uma prática que pode resultar em consequências legais, especialmente quando se trata de pornografia ilegal. É essencial estar ciente dos riscos associados a esse tipo de conteúdo, pois a disseminação de informações manipuladas pode causar danos irreparáveis à reputação das pessoas envolvidas. A proteção da privacidade é fundamental.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul acessou o bate-papo para ler uma mensagem, deparou-se com uma foto dela mesma tirada anos atrás, durante seu período escolar. Em seguida, recebeu uma segunda imagem, que utilizava a mesma foto, mas de forma sexualmente explícita — e completamente falsa. Heejin, que é um nome fictício, ficou aterrorizada e optou por não responder, mas as imagens continuaram a chegar. Em todas elas, seu rosto havia sido digitalmente anexado a um corpo em um ato sexual, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que se caracteriza principalmente pela combinação do rosto de uma pessoa real com um corpo falso e sexualmente explícito — está se tornando cada vez mais comum, sendo gerada por ferramentas de inteligência artificial.
A Distorção da Realidade com Deepfake
O trauma devastador enfrentado por quem tem sua imagem usada em ‘deepfakes’ pornográficos é inegável. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. No entanto, ela não estava sozinha nessa situação. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado um relatório que se tornaria um marco em sua carreira. Recentemente, a polícia havia iniciado investigações sobre redes de pornografia deepfake em duas das principais universidades do país, e Ko acreditava que havia muito mais a ser descoberto. Ela começou a investigar nas redes sociais e encontrou dezenas de grupos no aplicativo de mensagens Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam e utilizavam software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos.
Redes de Bate-Papo e a Cultura do Deepfake
‘A cada minuto, as pessoas enviavam fotos de garotas que conheciam, pedindo que fossem convertidas em deepfakes’, afirmou Ko à BBC. Ela percebeu que esses grupos não se restringiam apenas a estudantes universitárias; havia salas de bate-papo dedicadas a escolas de ensino médio e até fundamental. Se uma aluna específica tivesse muitas imagens criadas, poderia até ganhar sua própria sala. Comumente chamadas de ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas comunidades geralmente possuem regras de entrada rigorosas. A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul.
A Resposta das Autoridades e a Luta Contra a Pornografia Ilegal
Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo os passos das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu impor punições mais severas para aqueles envolvidos na criação e disseminação de conteúdo ilegal, e o presidente pediu uma maior educação entre os jovens. O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Desvendando os Grupos de Bate-Papo
A BBC teve acesso às descrições de várias dessas salas de bate-papo. Uma delas solicita que os membros postem mais de quatro fotos de alguém, acompanhadas do nome, criando um ambiente de manipulação e exploração. A situação revela como a tecnologia de deepfake pode ser utilizada para criar pornografia falsa, afetando a vida de muitas pessoas de forma devastadora.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo