A tecnologia deepfake utiliza a inteligência artificial para criar ou manipular conteúdos de áudio ou audiovisuais – principalmente vídeos. É uma técnica cada vez mais utilizada por cibercriminosos para executar ataques cibernéticos. A tecnologia permite trocar o rosto de pessoas em vídeos, sincronizar movimentos labiais, expressões e outros detalhes, obtendo resultados impressionantemente convincentes. Através dessa manipulação é possível criar narrativas falsas, trazendo novos riscos à sociedade.
As principais ameaças são a propagação de desinformação para manipular a opinião para um efeito desejado, como, por exemplo, um determinado resultado eleitoral; e contra indivíduos ou empresas para obter um retorno financeiro. A ameaça à sociedade é de que populações inteiras poderiam ter seus pontos de vista e opiniões influenciados por campanhas de desinformação que distorcem a verdade dos fatos. Já para as organizações, os deepfakes podem potencializar a eficácia de ataques de phishing e do tipo BEC (business e-mail compromise – ataques direcionados), facilitar a falsificação de identidade e manipular a reputação de uma empresa.
Como funciona a tecnologia?
Através de IA, aprendizagem de máquina e com ferramentas de código aberto pode se criar um algoritmo para treinar uma rede neural a mapear o rosto de uma pessoa, e a partir disso, substituir os movimentos faciais, expressões do rosto, e até o rosto por completo, no corpo de outra pessoa. Como em toda aprendizagem de máquina, a quantidade de dados que pode ser usada para treinar é decisiva – quanto maior o conjunto de informações, mais preciso será o algoritmo.
A manipulação de conteúdos audiovisuais não é uma novidade, mas a tecnologia está mais sofisticada, dificultando cada vez mais a possibilidade de diferenciar o que é ou não real. As ferramentas de deepfake não dependem mais de edição manual como antigamente. Hoje, por exemplo, com a IA, é possível reconhecer o modelo de um rosto de uma vítima, mapear a estrutura de outra e fazer uma sobreposição – obtendo então um vídeo automaticamente ajustado e com a movimentação do original ao modelo de outra pessoa, criando uma réplica realista.
Quais os riscos?
Os ataques cibernéticos usando deepfakes podem ser executados em tempo real e através de gravações – sendo transmitidos por redes sociais, plataformas de mensagens instantâneas, e-mail, entre outros. Em tempo real, um criminoso pode obter acesso indevido a uma chamada, de voz ou videoconferência, e se passar por outra pessoa – muitas vezes alguém com um cargo de liderança – para requisitar o envio de valores ou obter informações sigilosas.
Embora seja necessária uma certa capacidade técnica para criar um deepfake realista, já existem ferramentas vendidas por organizações criminosas no modelo “cibercrime como serviço”.
A segurança cibernética nas organizações deve evoluir e se adequar para enfrentar novas ameaças como ataques que utilizam deepfakes. O treinamento constante de funcionários é fundamental para conscientizar e prevenir possíveis ataques direcionados. Ainda que essas novas ameaças estejam cada dia mais realistas, há características possíveis de serem identificadas com um olhar mais atento. Fazer com que os funcionários sejam capazes de identificar um vídeo ou áudio falso é a principal maneira de evitar um incidente.
A GC Security realiza treinamentos para colaboradores e campanhas que simulam ataques de phishing, onde determinamos o risco dos seus funcionários caírem em golpes, causando vazamentos de dados ou invasões, por exemplo. Monitoramos cliques em links e aberturas de anexos que podem ser maliciosos, criamos relatórios e campanhas de conscientização. A GC Security vai além: através dos insumos e resultados obtidos por uma campanha de phishing específica para o seu negócio, realizamos uma avaliação do impacto e de possíveis danos que podem ser causados por um ataque de phishing.
