Depois de analisar o uso potencial de tecnologias como o ChatGPT por cibercriminosos, continuaremos nossa análise sobre algumas das diversas tecnologias que provêm da IA, ou mais especificamente do Machine Learning, para verificar o que o GAN enfrenta e as possibilidades de utilização do mesmo para fins maliciosos. Mas antes de explicar o que é o GAN, podemos fazer a seguinte pergunta: qual dos seguintes rostos pertence a uma pessoa real?

Rostro gan ficticio ejemplo

Imagem 1 – Qual é a imagem real? - Opção A (esquerda) ou opção B (direita)?

Lembre-se da sua escolheu, pois destacaremos qual é a imagem correta no final deste post.

O que é o GAN?

Primeiro devemos entender que a tecnologia GAN é o tipo de Inteligência Artificial que permite criar rostos fictícios. As redes GANs, em inglês Generative Adversarial Network, ou Redes Geradoras Adversariais, são algoritmos baseados na Deep Learning. Através desta tecnologia, rostos realistas e outros tipos de imagens, mesmo áudio ou vídeo, podem ser gerados.

Como as redes GAN funcionam?

Esta tecnologia foi criada em 2014 por Ian Goodfellow e sua equipe de colegas. De forma muito geral, podemos dizer que os GANs trabalham com base no treinamento de imagens. Ou seja, é necessário inserir dados de entrada, como rostos reais de pessoas diferentes, e o modelo fornece como resultado novos rostos com novas características de aparência real.

Embora os rostos GAN sejam de grande ajuda para indústrias como a de videogames na geração de rostos para personagens, ou para efeitos visuais que depois são usados em filmes, infelizmente eles também podem ser usados para fins maliciosos. De fato, estudos publicados já no final de 2021 mostraram que as imagens geradas por IA estão se tornando cada vez mais convincentes e que há 50% de chance de confundir um rosto falso com um real.

Por todas estas razões, aqui estão alguns exemplos de como eles podem ser usados por cibercriminosos:

Para criar perfis falsos

Se há uma coisa que os cibercriminosos sabem fazer, é usar novas tecnologias para criar golpes cada vez mais persuasivos. Com as redes GANs, os cibercriminosos podem criar imagens ou mesmo vídeos de pessoas conhecidas ou desconhecidas para fazer com que as vítimas compartilhem informações sensíveis, como nomes de usuário e senhas, ou mesmo números de cartão de crédito. Por exemplo, eles podem criar rostos de pessoas fictícias que podem ser usados para construir perfis de supostos representantes de atendimento ao cliente de uma empresa. Esses perfis normalmente enviam e-mails de phishing aos clientes dessa empresa para enganá-los e convencê-los a compartilhar informações pessoais.

Caso essa técnica seja usada em conjunto com outras tecnologias, como o ChatGPT, por exemplo, que como vimos pode ser usado para criar e-mails de phishing bastante convincentes, não seria descabido pensar que isso pode gerar ainda mais eficácia aos golpes.

Para criar fake news

O aumento de notícias falsas tornou o discernimento entre informações reais e falsas um grande desafio. Com o avanço das tecnologias de machine learning, o desafio parece estar crescendo. Como vimos com o ChatGPT e a possibilidade de criar uma fake news, juntamente com a criação de notícia com vídeos ou imagens posando como pessoas reais, o potencial pode ser enorme. Já vimos casos em que deepfakes foram criadas para se fazer passar por políticos com o intuito de propagar notícias falsas, como foi o caso do Presidente da Ucrânia Volodymyr Zelensky e um vídeo falso que foi carregado em sites ucranianos comprometidos, nos quais ele apelou aos soldados ucranianos para que depusessem suas armas.

Roubo de identidade

Em relação aos pontos anteriores, a criação de rostos semelhantes aos de pessoas públicas, tais como celebridades, pode facilitar o roubo de identidade. Considere o reconhecimento facial como um método de autenticação e as possibilidades oferecidas pelos rostos GAN como uma ferramenta para contornar este método de autenticação e obter acesso à conta de um terceiro. Vale mencionar também que, embora muitos métodos de reconhecimento facial não funcionem bem quando as imagens são de baixa resolução, estudos demonstraram que a tecnologia GAN provou ser eficaz para melhorar a precisão das tecnologias de reconhecimento facial nestes cenários. Por outro lado, também é importante mencionar que as empresas estão conscientes dos riscos e estão desenvolvendo funcionalidades para detectar estas imagens falsas. O LinkedIn, por exemplo, anunciou em 2022 novas funcionalidades que utilizam Inteligência Artificial (IA) para identificar perfis que utilizam geradores de imagens sintéticas através de IA.

Golpes em aplicativos de relacionamento e redes sociais

Já mencionamos os riscos de segurança e as fraudes que circulam pelos sites e aplicativos de relacionamento, mas o avanço das tecnologias baseadas em redes neurais, como os GANs, significa que não precisamos mais nos preocupar apenas com as configurações de privacidade desses aplicativos e serviços para proteger nossos dados. Com a ajuda dos GANs, os cibercriminosos podem criar rostos falsos que são usados para criar perfis falsos em aplicativos de encontros e/ou perfis de redes sociais como parte de sua estratégia para enganar e depois extorquir dinheiro das vítimas. Empresas como a Meta revelaram o aumento de perfis falsos usando imagens artificiais criadas por um computador.

Dicas

Algumas dicas sobre como evitar ser enganado pela geração de imagens e vídeos GAN são:

  • Verificar a fonte: certifique-se de que a fonte da imagem é confiável e verifique a veracidade da imagem.
  • "Nem tudo o que reluz é ouro": tenha cuidado com as imagens que parecem perfeitas demais. A maioria das imagens geradas por este tipo de tecnologia parecem perfeitas e impecáveis, por isso é importante estar atento a elas. Se uma imagem ou vídeo parecer suspeito, procure mais informações sobre ele em outras fontes confiáveis.
  • Verificar imagens e/ou vídeos: existem algumas ferramentas como o Google Reverse Image Search on-line que podem ajudar a verificar a autenticidade de imagens e vídeos.
  • Atualize seus sistemas de segurança: mantenha seus sistemas de segurança atualizados para se proteger contra golpes e malwares.
  • Instale um software antivírus confiável: esse tipo de solução não só ajudará a detectar códigos maliciosos, mas também detectará sites falsos ou suspeitos.
  • Não compartilhe informações confidenciais: não compartilhe informações pessoais ou financeiras com desconhecidos.

Apesar de estarmos falando sobre as redes GANs, os grandes avanços que estão ocorrendo no campo da IA são enormes e significativos, então lembramos que como usuários devemos tentar estar informados sobre as últimas técnicas usadas pelos cibercriminosos para saber como nos proteger de diferentes ameaças on-line.

Você se lembra da imagem escolhida no início deste post? A imagem falsa é a “A”: o que você achou do desafio? Compartilhe a sua experiência nos comentários deste post e se você conseguiu identificar a imagem real.