Escândalo abrange mais de 500 instituições de ensino e muitas vítimas menores, com conteúdo prejudicial em grupos de bate-papo do Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais vazaram.’ A situação se tornou ainda mais alarmante ao ser associada à pornografia e ao uso de deepfake, que têm se tornado cada vez mais comuns na internet.
Esses deepfakes podem gerar imagens pornográficas falsas que comprometem a privacidade das pessoas. O conteúdo pornográfico criado de forma artificial não apenas prejudica a reputação dos indivíduos, mas também levanta questões sérias sobre consentimento e ética. A proteção contra esses abusos é fundamental.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no grupo de bate-papo para verificar a mensagem, foi surpreendida ao receber uma imagem sua tirada anos atrás, enquanto ainda estava na escola. Em seguida, recebeu uma segunda foto, que utilizava a mesma imagem, mas agora de forma sexualmente explícita e, claro, falsa. Heejin, que não é seu nome verdadeiro, ficou apavorada e optou por não responder, mas as imagens continuaram a chegar. Em todas as fotos, seu rosto havia sido manipulado e anexado a um corpo realizando atos sexuais, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso em conteúdo pornográfico — está se tornando cada vez mais comum, sendo gerada por meio de ferramentas de inteligência artificial.
Compreendendo a Tecnologia de Deepfake
O trauma devastador enfrentado por quem tem suas imagens utilizadas em deepfakes pornográficos é indescritível. ‘Fiquei petrificada, me senti tão sozinha’, compartilhou Heejin à BBC. Contudo, ela não estava sozinha nessa situação. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado um furo de reportagem que se tornaria um marco em sua carreira. Recentemente, havia sido revelado que a polícia estava investigando redes de pornografia deepfake em duas das universidades mais renomadas do país, e Ko acreditava que havia muito mais a ser descoberto.
Artigos Relacionados
Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam e usavam software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas enviavam fotos de garotas que conheciam, pedindo que fossem convertidas em deepfakes’, relatou Ko à BBC.
A Difusão de Conteúdo Prejudicial
Ko constatou que esses grupos não se limitavam a estudantes universitárias; havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental. Se uma aluna específica tivesse muitas imagens geradas, poderia até ganhar sua própria sala. Comumente chamadas de ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas áreas costumam ter regras de entrada rigorosas. A reportagem de Ko, publicada no jornal Hankyoreh, causou um grande choque na Coreia do Sul.
Na segunda-feira, 2 de setembro, a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu implementar punições mais severas para os envolvidos nesse tipo de crime, e o presidente fez um apelo para que os jovens recebessem uma educação mais adequada sobre o tema. O Telegram, por sua vez, afirmou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Reações e Desdobramentos
A BBC teve acesso a descrições de várias dessas salas de bate-papo. Uma delas exige que os membros postem mais de quatro fotos de alguém, junto ao nome, criando um ambiente em que a privacidade e a dignidade das pessoas são completamente desconsideradas. A crescente preocupação com a pornografia deepfake e o uso de tecnologia para criar conteúdo prejudicial levanta questões sérias sobre a ética e a responsabilidade no uso dessas ferramentas. A luta contra a disseminação de deepfakes pornográficos é apenas o começo de um debate mais amplo sobre privacidade, consentimento e as implicações da tecnologia na vida cotidiana.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo