Fique atento aos riscos do DeepFake!

O crescimento do uso da inteligência artificial e a sua popularização por todo o mundo trouxe boas perspectivas, mas também trouxe preocupação. Isso porque nem todo uso da tecnologia é feito com boas intenções. Muitas pessoas já tentam passar golpes ou cometer crimes utilizando o potencial da inteligência artificial generativa ou criando deep fakes. 

 

Para resumir, deepfakes acontecem quando uma pessoa tem sua voz ou seu rosto copiado ou, então, quando uma pessoa consegue modificar completamente a sua aparência por meio de aplicativos. Isso possibilita que outros não consigam identificá-la ou acabem a confundindo com uma celebridade, por exemplo. 

 

Por isso, é importante estar atento aos pequenos erros que a tecnologia ainda possui, assim como nunca deixar dados desnecessários expostos ou confiar em tudo que se vê na web. Nos próximos parágrafos, vamos falar mais sobre como identificar esse tipo de situação. 

 

 

 

O que é o deepfake?  

Como falamos acima, o deepfake acontece quando, por meio de uma inteligência artificial, é possível alterar elementos visuais e sonoros da identidade de uma pessoa. Para ficar mais simples, é quando a IA consegue alterar o rosto, o corpo e a voz de uma pessoa, podendo fazê-la parecer outra pessoa conhecida ou simplesmente imitar alguém desconhecido para que não seja possível reconhecer o autor. 

 

Ele é criado por meio do aprendizado da máquina (conhecido como machine learning) a partir de dados disponíveis na internet ou dados fornecidos a ele por meio de bancos. Quanto mais material disponível, melhor é a compreensão da IA e melhor será o resultado do deepfake. Esse treinamento lembra um pouco o que falamos em nosso artigo sobre o ChatGPT.  

 

Alguns dos principais programas para realizar o DeepFake são o DeepFaceLab, o ZAO e o FakeApp. 

 

Inicialmente, o objetivo da técnica seria conseguir reproduzir situações humorísticas, trazer “de volta à vida” artistas que já se foram, garantir conteúdos novos inofensivos, porém, a tecnologia passou a ser utilizada também por criminosos. 

 

Inclusive, essa preocupação já apareceu em novela da Globo tratando sobre um pedófilo que buscava enganar uma jovem. 

 

Deepfake é uma Inteligência Artificial Generativa? 

De certa forma, sim! O deepfake possui o mesmo princípio que o ChatGPT e o Midjourney, por exemplo. Ambos são inspirados no conceito das Redes Adversariais Generativas (GAN), em que a tecnologia aprende a partir das informações com as quais ela é alimentada. 

 

 

Saiba como identificar um deepfake 

A tecnologia que altera a aparência ainda está no início, porém, como a velocidade do seu aperfeiçoamento é muito grande, será difícil saber o que é real e o que é fake no futuro. Porém, no momento, ainda é possível descobrir por meio de algumas falhas: 

 

• Fique atento ao fundo da tela! A tecnologia não consegue alterar o fundo e a pessoa de maneira eficiente, acontecendo alguns erros de sincronia; 
• Repare no movimento lateral do rosto. A tecnologia possui algumas falhas com o movimento, especialmente quando se trata de pessoas comuns e que contam com menos dados; 
• Podem existir falhas na boca, na textura da pele e pode haver falta de sincronia entre fala e movimento facial; 
• A voz pode parecer igual, mas ela terá interferência e pode se tornar “robotizada”; 
• Para pessoas famosas, busque em sites confiáveis para saber se o vídeo é real; 
• Para pessoas próximas, tente entrar em contato por outro meio. Nunca passe dados ou faça transferências bancárias caso tenha dúvida sobre a origem da mensagem. 

 

 

Saiba mais sobre tecnologia no blog da CRP Mango 

A CRP Mango é uma agência de marketing digital, tecnologia e e-commerce que conta com mais de 20 anos de experiência. Nossos especialistas estão sempre atentos a todas as mudanças no cenário tecnológico e sempre trazem novidades em nosso blog. 

 

Conheça mais sobre as tendências da tecnologia acessando o nosso blog.