Meio Bit » Arquivo » Internet » Para o Discord, vídeos adultos falsos de celebridades criados por IA são Revenge Pr0n

Para o Discord, vídeos adultos falsos de celebridades criados por IA são Revenge Pr0n

Discord bane servidor que compartilhava pr0n falso de celebridades criados por deepfakes, dando pontapé inicial em classificar o material como Revenge Pr0n

6 anos atrás

Em dezembro a internet entrou em pânico quando um usuário do Reddit chamado "deepfakes" apresentou uma ferramenta maquiavélica, para dizer o mínimo: um software que faz uso de uma rede neural treinada para mapear o rosto de uma pessoa na cabeça de outra, e criar vídeos adequando a face inserida a todos os movimentos da fonte, quaisquer que sejam. E sem nenhuma surpresa o fez apresentando como uma evolução das antigas montagens pr0n de celebridades.

discord

O sujeito originalmente criou uma série de vídeos para demonstrar a tecnologia, todos pr0n utilizando diversas atrizes de Hollywood em situações que nada condizem com suas carreiras, mas a técnica em si era complicada demais para leigos fazerem uso livremente da ferramenta: todo o procedimento era manual e é preciso ter um PC com uma GPU decente, no mínimo uma GTX 1050 da nVidia para realizar a renderização, além do fato de que a resolução final é bem baixa. Ainda assim, os resultados enganam muita gente.

Só que um outro usuário, não contente lançou neste mês uma interface amigável na forma de um app dedicado, que automatiza todo o processo e tira da mão do usuário a trabalheira para criar as "obras", dispensando conhecimentos extensos em desenvolvimento e/ou programação. Ou melhor traduzindo, agora qualquer um com uma máquina minimamente decente é capaz de criar vídeos pr0n de qualquer pessoa que quiser.

Abaixo, um exemplo com o rosto da atriz Daisy Ridley no corpo de outra pessoa feito já com o app:

Já outro usuário sobrepôs o rosto do ator Bruno Ganz, que interpretou Adolf Hitler no filme A Queda sobre a cara do presidente argentino Mauricio Macri:

A questão é como classificar tais obras. Há quem entenda que criar um vídeo falso de uma pessoa em uma situação constrangedora, no caso material adulto se enquadre como Revenge Pr0n e os responsáveis (criadores dos vídeos e mantenedores do software) devem ser processados como prevê a Lei nesses casos, mas como é um material primariamente falso e tal coisa sempre existiu na internet, muitos não vêem problema com isso. Só que o algoritmo de deepfakes é muito mais poderoso que uma foto photoshopada e pode muito bem enganar incautos.

É o que a Discord Inc., a companhia responsável pelo software homônimo para chat de texto, áudio e vídeo voltado gamers que deseja destronar o Skype entende. Na semana passada a empresa foi contactada pelo Business Insider sobre a existência de um servidor chamado "deepfakes", dedicado ao compartilhamento dos vídeos pr0n falsos criados pelos usuários do software. A plataforma, que tem sérias dificuldades em sanitizar sua base instalada de usuários, graças à grande quantidade de grupos defensores de discursos de ódio foi um pouco mais pró-ativa desta vez, aniquilando o servidor citando violação dos Termos de Serviço, especificamente enquadrando o material como "pornografia não consensual".

Agora que a Caixa de Pandora foi aberta é impossível voltar atrás, usuários sendo usuários não vão se limitar a fazer vídeos falsos de celebridades, mas também de pessoas comuns e não apenas em criações pr0n, usando a tecnologia para o mal de modo a prejudicar pessoas das mais diversas formas. A atitude do Discord, ainda que isolada pode levar a um entendimento comum que a simples criação desses vídeos falsos é uma violação da privacidade dos envolvidos e por isso, é Revenge Pr0n, tornando tanto os desenvolvedores quanto os usuários em criminosos e sujeitos à mão pesada da justiça, o que sendo sincero não deve demorar a acontecer.

O único porém é que o ato do Discord não inibirá a criação de tais vídeos, pelo contrário.

Com informações: Business Insider.

relacionados


Comentários