foto-distorcida-01

Alguns usuários do fórum Dvach (2chan) utilizaram o aplicativo de reconhecimento facial FindFace (que utiliza algoritmos de aprendizagem automática e redes neuronais) para obter os perfis de mulheres que estão em fotos pornográficas nas redes sociais, enviando mensagens para seus contatos, “denunciando a imoralidade da pessoa”.

Os trolls que cometem essa atitude também alegam que as mulheres que produzem material pornográfico são “corruptas e enganosas”. Para isso, eles usaram fotografias protagonizadas por pessoas desconhecidas (por isso sua necessidade em identificá-las), além de algumas mulheres que oferecem seus serviços de acompanhante no site Intimcity.

Vale a pena observar que não precisa ser uma atriz pornô para passar por esse problema: basta que alguém tenha uma foto comprometida (ou em nível profissional, ou que foi roubada e compartilhada, como um Revenge Porn) para que qualquer um desses trolls possa, em teoria, identificar com o FindFace a pessoa, a partir de fotos normais enviadas para as redes sociais.

foto-distorcida-02

A Kaspersky estudou este problema e garante que várias mulheres apagaram suas contas online diante das acusações, e apesar de não sabermos o alcance real do ataque, já temos muitas pessoas afetadas. Por outro lado, o FindFace não acerta sempre: em alguns casos de falsos positivos, o software acusou grandes grupos de internautas de pornografia, sem ter culpa disso.

O FindFace informa que não tem como evitar esse tipo de uso malicioso, mas adverte que distribuir pornografia de forma ilegal na Rússia é um delito, e que eles não se opõem em colaborar com as autoridades para ajudar a identificar os usuários que utilizam sua ferramenta para fins ilícitos. Veremos quando o FindForce começar a funcionar em outras redes sociais (aka Facebook), tal e como se planeja.

Via Gizmodo, Global Voices, Kaspersky