Comparado a outros, o país está à frente na regulamentação da pornografia deepfake (Imagem gerada por IA)
A Coreia do Sul foi abalada por uma onda de imagens deepfake sexualmente explícitas sendo criadas e compartilhadas online, visando indiscriminadamente mulheres e meninas usando suas fotos escolares, selfies de mídia social e até mesmo fotos de militares. Um canal do Telegram com mais de 220.000 participantes estava sendo usado para criar e compartilhar essas imagens pornográficas geradas por inteligência artificial, servindo como um lembrete global das consequências mais sombrias da corrida generalizada por essa tecnologia.
Os usuários podiam fazer upload de fotos e, em questão de segundos, criar conteúdo explícito com os rostos de seus amigos, colegas de classe ou parceiros românticos. A reportagem inicial de veículos de notícias locais levou mais mulheres a se apresentarem como vítimas e mais canais do Telegram a serem expostos, revelando a verdadeira escala do problema. Muitas das vítimas envolvidas são menores de idade. Manifestantes usando máscaras brancas sobre os olhos se reuniram em Seul pedindo justiça no final do mês passado.
À medida que a indignação aumentava, o presidente sul-coreano Yoon Suk Yeol pediu ao seu governo que reprimisse o abuso digital, e as autoridades disseram que formariam uma força-tarefa para lidar com o problema. Enquanto a polícia investigava, outra tendência perturbadora surgiu. Dados preliminares indicam que a grande maioria dos suspeitos perpetradores da recente onda de casos eram adolescentes.
“Alguns podem considerar isso uma mera brincadeira, mas é claramente um ato criminoso que explora a tecnologia sob o escudo do anonimato”, disse Yoon durante uma reunião de gabinete no final do mês passado, reconhecendo que muitas das vítimas e perpetradores eram menores de idade.
Yoon está certo. Isso não é apenas uma brincadeira, e o impacto desse tipo de violência sexual digital pode ser devastador para as vítimas. Boa parte da culpa está sendo colocada corretamente no Telegram, especialmente porque o escândalo está chegando ao auge ao mesmo tempo em que o CEO da plataforma, Pavel Durov, foi preso e acusado na França por suposta cumplicidade em crimes, incluindo o compartilhamento de pornografia infantil, cometidos em seu aplicativo. As autoridades coreanas disseram que o Telegram está cooperando com a investigação e com os pedidos de remoção de conteúdo.
Mas as palavras de Yoon soarão vazias para alguns, dado que ele chegou ao poder em 2022 cortejando jovens eleitores do sexo masculino com propostas para acabar com o ministério da igualdade de gênero, que ele acusou de tratar os homens como “potenciais criminosos sexuais”. Ele também alegou que a discriminação sistêmica de gênero não existe na Coreia do Sul e deu a entender que o feminismo era o culpado pela baixa taxa de natalidade do país. Enquanto isso, as mulheres ganham cerca de 30% menos do que seus colegas homens, marcando a maior diferença salarial de gênero no mundo desenvolvido. Mesmo em lares de renda dupla, as mulheres arcam com o peso das tarefas domésticas e das responsabilidades com os cuidados com os filhos.
E antes que a recente leva de ferramentas de IA tornasse a geração de imagens explícitas deepfake muito mais fácil, grupos de defesa vinham chamando a atenção para uma onda de crimes sexuais digitais, geralmente envolvendo imagens íntimas não consensuais ou câmeras escondidas.
Há uma série de razões pelas quais as mulheres sul-coreanas, assim como suas contrapartes no mundo desenvolvido, estão escolhendo não ter filhos, incluindo a crescente participação na força de trabalho e o número desigual de criar filhos. Em vez de culpar o feminismo, pode ser mais útil olhar para essa montanha de dados profundamente preocupantes. Ironicamente, um dos principais grupos do Telegram que espalha essas imagens supostamente tinha cerca de 227.000 membros — o que é quase o mesmo que o número de bebês nascidos no ano passado.
As mulheres sul-coreanas estão corajosamente trazendo essa questão à tona com protestos e ativismo, o primeiro passo para promulgar mudanças para uma crise que está impactando pessoas ao redor do mundo. Comparado a outras jurisdições, o país também está à frente da curva quando se trata de regulamentar pornografia deepfake. Na verdade, ele tem leis em vigor, incluindo punições de até cinco anos de prisão e multas para pessoas condenadas por criar imagens com a intenção de distribuir. Nos EUA, a legislação federal conquistou apoio bipartidário entre os legisladores, mas ainda está avançando a passo de caracol no Congresso.
A regulamentação é importante, mas os casos na Coreia também expõem o quão difícil pode ser a aplicação de um problema tão disseminado, bem como o quão fácil é para esse conteúdo ser criado e compartilhado em primeiro lugar. Expandir as leis para tornar ilegal a posse desse material pode ajudar. Mas isso ainda coloca muita responsabilidade nas vítimas para rastrear digitalmente quem criou o conteúdo que virou suas vidas de cabeça para baixo.
A prisão recente do CEO do Telegram mostra que há um ímpeto global crescente para responsabilizar as empresas de tecnologia por seu papel nos danos que ocorrem em suas plataformas. Este é um passo na direção certa; à medida que mais reguladores transferem a responsabilidade para essas empresas poderosas, mais soluções lideradas pela indústria seriam bem-vindas. Universidades e centros de pesquisa estão desenvolvendo algumas ferramentas promissoras para proteger imagens da manipulação de IA. Mas não há recursos suficientes sendo dedicados para garantir a implementação responsável da IA pela indústria que a cria.
Mais ônus deve ser colocado sobre as empresas de tecnologia para que apresentem soluções proativas. Muitas gigantes da tecnologia recuaram em equipes de IA éticas e responsáveis nos últimos anos em meio a cortes de custos mais amplos. Mas a dignidade de mulheres e meninas não é algo que deve ser sacrificado em favor do lucro.
A Coreia do Sul é o atual epicentro desta crise. Mas é uma questão global que pode impactar qualquer um, de celebridades como Taylor Swift a garotas do ensino fundamental de Seul a Nova Jersey. O setor de tecnologia não pode continuar se esquivando da responsabilidade por muito mais tempo.
(Esta história não foi editada pela equipe da NDTV e é gerada automaticamente a partir de um feed distribuído.)
