Quando falamos de inteligência artificial e machine learning quase nunca pensamos em como essas ferramentas podem ser utilizadas para coisas desagradáveis, como é o caso do Deepfake. A técnica reuniu o que há de mais moderno em edição de vídeo para trocar os rostos de pessoas em vídeos, com sincronização praticamente perfeita de movimentos labiais e expressões.
Antes que você ache que esse tipo de coisa só acontece com celebridades ou pessoas públicas, saiba que seu rosto também pode ser incluído em um vídeo editado. Claro que essa técnica de trocar rostos não é nova, mas é o processo de edição que surpreende pela proximidade com a realidade.
Como funciona
O Deepfake é uma ferramenta desenvolvida para treinar uma rede neural (que imita o cérebro humano) a mapear o rosto de uma pessoa no corpo de outra, frame por frame (quadro por quadro), por meio de algoritmos.
Isso significa, basicamente, duas coisas importantes. A primeira é que o processo de edição e manipulação da imagem em vídeo ficou mais fácil e rápido, uma vez que não é mais necessário fazer isso manualmente.
A segunda é que o Deepfake ajusta a movimentação do vídeo original ao novo rosto, incluindo os movimentos faciais. Basta que a ferramenta acesse o modelo de rosto para mapear a estrutura de destino e fazer a sobreposição.
Qualidade
E se você pensa que tudo isso requer conhecimentos avançados para ser realizado, está enganado. Alguns aplicativos foram desenvolvidos a partir dessa ferramenta e automatizaram todo o processo.
A verdade é que a qualidade média desses vídeos não é muito alta, por isso fica ainda mais fácil e acessível para qualquer pessoa realizar a alteração, que não depende de grandes conhecimentos sobre informática ou mesmo edição de vídeos.
Some isso ao crescente número de usuários de celulares e smartphones e entenda como as pessoas podem estar desatentas à qualidade e mais suscetíveis a acreditar nesses vídeos – especialmente durante trajetos, quando estão, por exemplo, em pé em um transporte público lotado ao fim do expediente de trabalho.
Como o Deepfake nos afeta
Os principais alvos do Deepfake são, sim, as celebridades e figura públicas. Gal Gadot, Ariana Grande e Scarlett Johansson, por exemplo, foram inseridas em vídeos adultos, enquanto Donald Trump, presidente dos EUA, teve sua imagem associada a discursos políticos que ele não fez.
Mesmo assim, nada impede que alguém mal-intencionado coloque pessoas comuns em uma situação constrangedora. E se engana quem acha que o Deepfake é utilizado somente para a pornografia de vingança (aquela exposição pública de fotos ou vídeos sem consentimento que ocorre, geralmente, após um término de relacionamento).
É possível utilizar a ferramenta, por exemplo, para forjar álibis e depoimentos, além de situações de crimes. Tudo depende da criatividade do “editor” e da disponibilidade de vídeos do alvo na internet.
As pessoas também podem ser vítimas indiretas do Deepfake ao acreditarem na veracidade do conteúdo divulgado pelo vídeo adulterado, com políticos ou celebridades apresentando discursos e pontos de vista que não são reais.
Você pode conferir outros exemplos do uso do Deepfake neste vídeo.
Proteção
Diversas plataformas e mídias sociais como o Reddit e o Twitter passaram a deletar todo conteúdo relacionado a Deepfake. Além de ser um posicionamento ético, que evita o constrangimento das pessoas, também é uma forma de prevenção contra processos, uma vez que alguns materiais e produções são protegidos por direitos autorais.
Um caso bem conhecido disso é a inclusão do rosto do ator Nicolas Cage em trechos de filmes que ele não estrelou.
Mas ficar esperando pelo bom senso ou disponibilidade de grandes plataformas para tirar do ar algum conteúdo adulterado via Deepfake não é a melhor estratégia. Por isso, aqui cabe um velho conselho de vó: melhor prevenir do que remediar. Fique de olho em algumas dicas:
- Evite o compartilhamento de vídeos pessoais;
- Não envie vídeos para quem você não conhece;
- Nem publique em redes sociais de forma pública.
Outras práticas
As principais tendências de redes sociais para os próximos anos apontam uma nova forma de relacionamento entre empresas e o Deepfake. Aplicativos como TikTok, Snapchat e Instagram já trabalham com filtros que permitem a realocação do rosto.
A ideia é que essas plataformas passem a integrar a possibilidade de colocar rostos em diferentes corpos, minimizando, assim, as chances de utilização do Deepfake para montagens desagradáveis ou até criminosas.
Será que isso é possível em um futuro não tão distante? Compartilhe sua opinião nos comentários!
