O fenômeno dos vídeos deepfake, onde montagens colocam celebridades protagonizando filmes pornô, se proliferou de forma preoupante na internet, e os primeiros movimentos para deter o problema foram anunciados.
O Pornhub oficialmente vetou o seu uso, e o Twitter decidiu seguir a mesma política, suspendendo as contas que publicarem vídeos com essa característica.
A caixa de Pandora do deepfake foi aberta por um usuário do Reddit, que publicou GIFs de atrizes como Gal Gadot, Scarlett Johansson e Taylor Swift protagonizando cenas pornográficas. Os vídeos foram gerados por motores de inteligência artificial.
O fenômeno se proliferou perigosamente, com variantes que permitiam gerar esses vídeos com amigos, conhecidos, companheiros de trabalho e escola, entre outros. Alguns fóruns decidiram fechar comunidades que se transformaram de forma involuntária em repositório de vídeos pornôs manipulados.
A medida alcançou o Pornhub, que recebe 75 milhões de usuários únicos por dia, mas não vai tolerar conteúdos não consensuais. Para o site, os vídeos deepfake entram na mesma classificação do igualmente vetado revenge porn, ou seja, imagens ou vídeos explicitamente sexuais de pessoas sem o seu consentimento.
A medida do Twitter é idêntica, e terá como consequência suspender qualquer conta com publicação de conteúdos íntimos que foram produzidos ou distribuídos sem o consentimento da pessoa, além da suspensão de contas dedicadas à publicação do deepfake.
Via FastCo