Os ataques deepfake de “troca de rosto” dispararam 704% do primeiro ao segundo semestre de 2023, de acordo com uma nova pesquisa.
Analistas da iProov, uma empresa biométrica britânica, atribuíram o aumento à crescente acessibilidade de ferramentas sofisticadas de IA generativa.
Com sua capacidade de manipular características importantes de uma imagem ou vídeo, as trocas de rosto feitas com GenAI são difíceis de detectar.
Eles também são fáceis de usar e acessíveis. Para criar trocas de rosto convincentes, tudo que você precisa é de um software pronto para uso. A saída manipulada ou sintética é então enviada para uma câmera virtual.
Conferência TNW 2024 – Venda Flash 2 por 1
Compre dois ingressos pelo preço de um. A oferta termina na segunda-feira, 12 de fevereiro
“Tem havido uma proliferação de ferramentas de troca facial, tornando muito fácil criar e injetar trocas faciais com muito pouco conhecimento técnico”, Dr. Andrew Newell, diretor científico da iProov, disse à TNW.
“O conhecimento destas ferramentas está a espalhar-se rapidamente através dos fóruns de partilha de informações, juntamente com técnicas para contornar muitas defesas existentes.”
Ocultando crimes deepfake
SwapFace e DeepFaceLive são as ferramentas mais populares para malfeitores, de acordo com o iProov.
Atacantes muitas vezes os combinam com emuladores – que imitam o dispositivo de um usuário, como um telefone celular – junto com outros métodos de manipulação de metadados.
Ao usar essas ferramentas, os criminosos podem ocultar as evidências de câmeras virtuais, o que torna as trocas de rosto mais difíceis de detectar.
Os fraudadores de identidade exploraram rapidamente esta vulnerabilidade. Do primeiro ao segundo semestre do ano passado, o uso de mídia deepfake junto com a falsificação de metadados aumentou 672%. Nesse mesmo período, houve um aumento de 353% no número de agentes de ameaças que utilizam emuladores.
A colaboração também está em alta. Dos grupos identificados pelos analistas do iProov, quase metade (47%) foram criados em 2023.
Trocas de rosto nas manchetes
A pesquisa do iProov chega poucos dias depois um dos maiores golpes deepfake da história.
Uma funcionária financeira em Hong Kong foi enganada ao transferir 200 milhões de dólares de Hong Kong (23,8 milhões de euros) para vigaristas que se passaram por seus colegas numa videochamada, segundo a polícia chinesa. Além da vítima, todos os participantes da ligação eram uma recriação digital de um membro real da equipe.
“Embora não tenha sido confirmado, é provável que este ataque tenha usado tecnologia de troca de rosto, que fornece aos atores da ameaça um nível muito alto de controle sobre o vídeo deepfake resultante, combinado com técnicas de injeção para fazer parecer que o vídeo em a chamada veio de uma câmera real”, disse Newell.
“Essas são as ferramentas que identificamos em nosso relatório como representando uma ameaça muito significativa.”
Quatro anos depois de os pesquisadores destacarem os deepfakes, o crime de IA mais preocupantesuas ansiedades estão se tornando realidade.
