A crescente aparição de ataques deepfake está reformulando significativamente o cenário de ameaças. Essas falsificações trazem ataques como comprometimento de e-mail comercial (BEC) e verificação de identidade ignorando a novos níveis.
Em 2020, em nosso artigo conjunto com a EUROPOL e o Instituto Interregional de Pesquisa sobre Crime e Justiça das Nações Unidas (UNICRI), delineou os usos maliciosos da inteligência artificial e também previu o uso e abuso de tecnologias deepfake por cibercriminosos. De fato, não demorou muito para que nossa previsão se tornasse realidade – no momento, já estamos observando ataques acontecendo na natureza.
A crescente aparição de ataques deepfake está reformulando significativamente o cenário de ameaças para organizações, instituições financeiras, celebridades, figuras políticas e até mesmo pessoas comuns. O uso de deepfakes traz ataques como comprometimento de e-mail comercial (BEC) e verificação de identidade ignorando a novos níveis.
Existem várias pré-condições e razões pelas quais esses ataques foram bem-sucedidos:
Todos os pilares tecnológicos estão em vigor. O código-fonte para geração de deepfake é público e está disponível para qualquer pessoa disposta a usá-lo.
O número de imagens disponíveis em público é suficiente para que maus atores criem milhões de identidades falsas usando tecnologias deepfake.
Grupos criminosos são os primeiros adaptadores de tais tecnologias e discutem regularmente o uso de tecnologias deepfake para aumentar a eficácia dos esquemas de lavagem de dinheiro e monetização existentes.
Estamos vendo tendências de implementação de deepfake em cenários de ataques mais recentes, como em ataques de engenharia social, onde os deepfakes são um facilitador tecnológico fundamental.
Vamos examinar como essa tendência emergente vem se desenvolvendo e evoluindo nos últimos anos.
Identidades roubadas em golpes promocionais de deepfake
Tornou-se comum ver imagens de pessoas famosas usadas em campanhas duvidosas de otimização de mecanismos de busca (SEO) em sites de notícias e redes sociais. Normalmente, os anúncios estão de alguma forma relacionados à experiência da celebridade selecionada e são projetados especificamente para atrair usuários e levá-los a selecionar links sob as imagens.
A Figura 1, por exemplo, mostra uma captura de tela tirada em 13 de setembro de 2022 de anúncios no site de notícias alemão N-TV. Vemos que o anúncio apresenta pessoas conhecidas que provavelmente não sabem que suas imagens estão sendo usadas. Se um usuário selecionar esses anúncios, aparecerá uma página com um anúncio de automóvel (como visto no lado direito da figura). A seleção de um anúncio semelhante leva a outra página promocional.
Grupos de publicidade sem escrúpulos usam esse tipo de conteúdo de mídia em diferentes esquemas de monetização há anos. No entanto, ultimamente temos visto desenvolvimentos interessantes nesses anúncios, bem como uma mudança na tecnologia que possibilita essas campanhas.
Recentemente, alguns grupos de mídia digital e monetização de SEO têm usado conteúdo de mídia compartilhado publicamente para criar modelos deepfake de indivíduos famosos. Esses grupos usam as personas de celebridades e influenciadores sem seu consentimento, distribuindo o conteúdo deepfake para diferentes campanhas promocionais.
Um exemplo é destacado na Figura 3. Uma campanha promocional foi vista no Meta apresentando Chris Sistrunk , um especialista em segurança cibernética. Notavelmente, ele não era um endossante do produto apresentado na campanha, nem disse qualquer conteúdo que estava no vídeo do anúncio.
Um dos autores deste blog também viu anúncios em aplicativos móveis legítimos e populares que usavam não apenas imagens estáticas, mas também vídeos deepfake de Elon Musk para anunciar “oportunidades de investimento financeiro”.
A próxima escalada para deepfakes é a capacidade de realizar chamadas de vídeo enquanto se faz passar por pessoas conhecidas.
O tópico de serviços deepfake é bastante popular em fóruns clandestinos. Nesses grupos de discussão, vemos que muitos usuários têm como alvo o banco online e a verificação de finanças digitais. É provável que criminosos interessados nesses serviços já possuam cópias dos documentos de identificação das vítimas, mas também precisam de um fluxo de vídeo das vítimas para roubar ou criar contas. Essas contas podem ser usadas posteriormente para atividades maliciosas, como lavagem de dinheiro ou transações financeiras ilícitas.
Deepfakes no subsolo
Os ataques criminosos subterrâneos usando ferramentas e técnicas de verificação passaram por uma evolução notável. Por exemplo, vemos que os serviços de verificação de conta estão disponíveis há algum tempo. No entanto, à medida que o comércio eletrônico evoluiu usando tecnologia moderna e sistemas de bate-papo online para verificação de identidade, os criminosos também evoluíram suas técnicas e desenvolveram novos métodos para contornar esses esquemas de verificação.
Em 2020 e início de 2021, já vimos que alguns usuários de fóruns clandestinos estavam procurando por “especialistas em deepfake” para troca de criptomoedas e contas pessoais.
