Home  >  Segurança

2019: o ano do avanço do Deepfake; Relembre episódios que marcaram

Relembramos episódios onde o uso da tecnologia gerou polêmicas e alertas sobre a privacidade dos dados

Da Redação

31/12/2019 às 9h00

Foto: Shutterstock

Em 2019, a tecnologia Deefake viu seu avanço e popularização assumir desde aplicativos que prometiam falsamente despir mulheres a até mesmo uso de voz manipulada artificialmente para extorquir empresas. Ao mesmo tempo, pesquisadores e organizações anunciaram esforços e fundos para alerta e "combate" à tecnologia.

Mas afinal, o que é Deepfake? O termo vem da junção de deep learning e fake. Deep learning é um campo de estudo dentro da área de machine learning e inteligência artificial e fake vem de falsificar. O deepfake combina, portanto, os poderes da inteligência artificial e do machine learning para criar falsificações.

Leia também na IT Trends

Com análise de massivos bancos de dados, os algoritmos programados com inteligência artificial são capazes de analisar traços humanos, os detalhes dos nossos movimentos e os sons que produzimos. Com essa análise, a ferramenta consegue simular uma determinada pessoa, muitas vezes, de forma extremamente realista. Essas falsificações são, na maioria das vezes alterações de vídeos, imagens e até mesmo áudios.

Durante o ano de 2019, o deepfake fez muitas vítimas, em sua maioria, mulheres, famosos e políticos. De acordo com a Deeptrace, cerca de 96% de todos os vídeos que são produzidos com deepfake são vídeos pornográficos, na maioria dos casos, esses vídeos são criados sem autorização da vítima.

Abaixo, relembramos os episódios que envolveram a exploração da tecnologia e outras tentativas para miná-la

Scarlett Johansson é vítima de deepfake

A atriz Scarlett Johansson começou o ano de 2019 dando uma entrevista ao Washington Post, onde lembrou ter sido vítima de diversas montagens realizadas com tecnologia deepfake. Muitas dessas montagens, usavam a imagem da atriz para simulá-la em filmes pornográficos.

“Isso não me afeta tanto porque as pessoas presumem que não sou eu realmente em um pornô, por mais humilhante que seja. Penso que é uma busca inútil, legalmente, principalmente porque a Internet é um grande buraco de minhoca de escuridão que devora a si mesma. Existem coisas muito mais perturbadoras na dark web do que isso, infelizmente”, disse Johansson.

Samsung "recorre" a Einstein e Dostoiévski para estudar deepfake

Pesquisadores da Samsung anunciaram em abril de 2019, uma ferramenta baseada em inteligência artificial capaz de criar imagens e vídeos falsos, tendo como base somente uma foto. No material divulgado pelos pesquisadores, é possível ver vídeos alterados com deepfake para "trazer à vida" nomes como Albert Einstein, Fiódor Dostoiévski e Marilyn Monroe.

Rasputin canta Beyoncé

Já em maio de 2019, cientistas do Centro de Inteligência Artificial da Samsung em Cambridge e do Imperial Collage, no Reino Unido, criaram uma Generative Adversarial Network (GAN) que reconhece um rosto em uma imagem estática e a anima em um vídeo 2D com áudio da fala humana. Além de sincronizar o movimento dos lábios, o vídeo também interfere na face como sobrancelhas e bochechas, simulando expressões faciais muito fiéis às emoções reais de um ser humano.

O áudio foi sincronizado na pós-produção do vídeo com o uso de softwares de edição e computação gráfica. Para demonstrar a tecnologia, os cientistas criaram um vídeo do líder religioso russo Rasputin, que morreu em dezembro de 1916, cantando um dos hits da cantora pop Beyoncé.

Os pesquisadores acreditam que essa tecnologia pode ser usada para criar automaticamente personagens de filmes animados, preencher espaços em branco na mudança de quadros e até tornar as dublagens de filmes mais realistas e agradáveis de se ver. No entanto, eles não descartam a possibilidade de ser usada na falsificação e manipulação de vídeos para influenciar opiniões.

Deepfake no LinkedIn

Em junho de 2019, um perfil no LinkedIn foi identificado pela Associated Press como sendo um perfil falso gerado com tecnologia deepfake. No perfil em questão, Katie Jones aparecia como funcionária do Center for Strategic and International Studies (CSIS) da Universidade de Michigan.

Entretanto, suspeita-se que o perfil de Jones era usado para espionagem. O perfil tinha diversas conexões com personalidades importantes de Washington, incluindo um vice-secretário do estado, um assessor sênior de um senador e Paul Winfree, economista considerado para um cargo no Federal Reserve Board do Banco Central dos Estados Unidos.

DeepNude

Os meses de junho e julho marcam o lançamento, o boom e o fim do controverso app DeepNude, um aplicativo que criava nudes falsos de mulheres reais. Qualquer pessoa com acesso à internet conseguia gerar nudes de mulheres conhecidas, por exemplo. Para isso, bastava o usuário enviar uma foto de uma mulher vestida e o aplicativo a devolvia com uma versão de um nude para o mesmo rosto.

O aplicativo foi, primeiramente, denunciado por Samantha Cole, repórter do Motherboard. Apesar da denúncia, a reportagem deu mais popularidade ao aplicativo. A plataforma teve um salto no número de usuários ao ponto de os servidores que a hospedavam não suportarem o volume de acessos. O app, então, foi derrubado pelos próprios administradores, por falta de estrutura para suportar os usuários online. Pelo menos, foi o que disseram os administradores do serviço, pelo Twitter.

Logo após o fim do DeepNude, diversas versões do aplicativo foram facilmente encontradas para download na internet, inclusive versões open source oferecidas pelo GitHub.

Tecnologia começa a ser usada contra o universo corporativo

Ainda em julho de 2019, criminosos resolveram usar a tecnologia para criar áudios falsos, passando-se por CEOs, para aplicar golpes em empresas. A Symantec, afirma ter descoberto três ataques bem-sucedidos desse tipo contra companhias. Em um dos casos, o "CEO" da organização ligou para o diretor financeiro solicitando transferência urgente de dinheiro.

Em setembro deste ano, a Symantec identificou outro ataque similar contra uma empresa de energia alemã baseada no Reino Unido. O diretor financeiro desta companhia teria recebido uma ligação, onde criminosos se passavam pelo CEO da empresa, que ordenava a transferência imediata de mais de US$ 240 mil para uma conta corrente na Hungria.

App chinês de deepfake vaza dados de usuários

O ZAO, um aplicativo chinês que utiliza inteligência artificial para inserir rostos de usuários em cenas de filmes famosos passou por uma situação polêmica em setembro de 2019. Logo após seu lançamento, já era o aplicativo de entretenimento mais baixado na App Store da China.

No entanto, por conta de uma cláusula nos termos de uso, o app dava a desenvolvedores externos o direito de utilizar todas as fotos carregadas no app por tempo indeterminado. Essas diretrizes foram caracterizadas como ilegais por juristas chineses.

Empresas unem esforços para combater o deepfake

O Facebook, em parceria com Microsoft, lançou em setembro de 2019 uma competição para detectar deepfakes. A competição buscava desenvolver tecnologias de detecção de vídeos gerados com tecnologia deepfake.

Só o Facebook investiu mais de US$ 10 milhões no desafio "Deepfake Detection Challenge". Já a Amazon anunciou, em outubro, um investimento de US$ 1 milhão em pesquisa na área.

O ano termina com as autoridades do governo chinês atualizando as regras de distribuição de conteúdo online, proibindo a publicação de notícias falsas e imagens alteradas com tecnologia deepfake. Não seguir as novas regras pode ser considerado ofensa criminal, informou a Administração do Ciberespaço da China (CAC).