No início de 2022, dois funcionários de políticas do Google se encontraram com um trio de mulheres vítimas de um golpe que resultou em vídeos explícitos delas circulando online — inclusive por meio de resultados de pesquisa do Google. As mulheres estavam entre as centenas de jovens adultos que responderam a anúncios buscando modelos de maiô apenas para serem coagidos a se apresentar em vídeos de sexo distribuídos pelo site GirlsDoPorn. O site encerrado em 2020e um produtor, um contadore um cinegrafista subseqüentemente declarou-se culpado de tráfico sexualmas os vídeos continuaram aparecendo na pesquisa do Google mais rápido do que as mulheres conseguiam solicitar a remoção.
As mulheres, acompanhadas por um advogado e um especialista em segurança, apresentaram uma série de ideias sobre como o Google poderia manter os clipes criminosos e humilhantes mais bem escondidos, de acordo com cinco pessoas que compareceram ou foram informadas sobre a reunião virtual. Elas queriam que a pesquisa do Google banisse sites dedicados ao GirlsDoPorn e vídeos com sua marca d’água. Elas sugeriram que o Google poderia pegar emprestado o disco rígido de 25 terabytes no qual o consultor de segurança cibernética feminina, Charles DeBarber, salvou todos os episódios do GirlsDoPorn, pegar uma impressão digital matemática, ou “hash”, de cada clipe e bloqueá-los de reaparecer nos resultados da pesquisa.
Os dois funcionários do Google na reunião esperavam usar o que aprenderam para ganhar mais recursos dos superiores. Mas o advogado da vítima, Brian Holm, saiu se sentindo duvidoso. A equipe de políticas estava em “uma situação difícil” e “não tinha autoridade para efetuar mudanças dentro do Google”, ele diz.
Sua reação instintiva estava certa. Dois anos depois, nenhuma dessas ideias levantadas na reunião foi colocada em prática, e os vídeos ainda aparecem nas buscas.
A WIRED falou com cinco ex-funcionários do Google e 10 defensores de vítimas que têm se comunicado com a empresa. Todos eles dizem que apreciam que, devido às mudanças recentes que o Google fez, sobreviventes de abuso sexual baseado em imagens, como o golpe GirlsDoPorn, podem mais facilmente e com sucesso remover resultados de pesquisa indesejados. Mas eles estão frustrados porque a gerência da gigante das buscas não aprovou propostas, como a ideia do disco rígido, que eles acreditam que restaurará e preservará mais completamente a privacidade de milhões de vítimas ao redor do mundo, a maioria delas mulheres.
As fontes descrevem deliberações internas não relatadas anteriormente, incluindo a justificativa do Google para não usar uma ferramenta da indústria chamada StopNCII que compartilha informações sobre imagens íntimas não consensuais (NCII) e a falha da empresa em exigir que sites pornográficos verifiquem o consentimento para se qualificar para o tráfego de pesquisa. A própria equipe de pesquisa do Google tem Publicados medidas que as empresas de tecnologia podem tomar contra o NCII, incluindo o uso do StopNCII.
As fontes acreditam que tais esforços conteriam melhor um problema que está crescendo, em parte por meio da ampliação do acesso a ferramentas de IA que criam deepfakes explícitos, incluindo alguns de sobreviventes do GirlsDoPorn. Relatórios gerais para a linha direta do Revenge Porn do Reino Unido mais que dobrou no ano passado, para cerca de 19.000, assim como o número de casos envolvendo conteúdo sintético. Metade dos mais de 2.000 britânicos em uma pesquisa recente preocupado em ser vítima de deepfakes. A Casa Branca em maio pediu uma ação mais rápida pelos legisladores e pela indústria para conter o NCII em geral. Em junho, o Google se juntou a outras sete empresas e nove organizações em anunciando um grupo de trabalho para coordenar as respostas.
No momento, as vítimas podem exigir o processo dos abusadores ou buscar ações judiciais contra sites que hospedam conteúdo, mas nenhuma dessas rotas é garantida, e ambas podem ser caras devido às taxas legais. Fazer com que o Google remova os resultados pode ser a tática mais prática e atende ao objetivo final de manter o conteúdo violador longe dos olhos de amigos, gerentes de contratação, possíveis proprietários ou encontros — que quase todos provavelmente recorrem ao Google para procurar pessoas.
Uma porta-voz do Google, que pediu anonimato para evitar assédio de perpetradores, se recusou a comentar sobre a ligação com as vítimas do GirlsDoPorn. Ela diz que combater o que a empresa chama de imagens explícitas não consensuais (NCEI) continua sendo uma prioridade e que as ações do Google vão muito além do que é legalmente exigido. “Ao longo dos anos, investimos profundamente em políticas e proteções líderes do setor para ajudar a proteger as pessoas afetadas por esse conteúdo prejudicial”, diz ela. “As equipes do Google continuam trabalhando diligentemente para reforçar nossas salvaguardas e abordar cuidadosamente os desafios emergentes para proteger melhor as pessoas.”
