Fique atento aos riscos do DeepFake!

O crescimento do uso da inteligência artificial e a sua popularização por todo o mundo trouxe boas perspectivas, mas também trouxe preocupação. Isso porque nem todo uso da tecnologia é feito com boas intenções. Muitas pessoas já tentam passar golpes ou cometer crimes utilizando o potencial da inteligência artificial generativa ou criando deep fakes.
Para resumir, deepfakes acontecem quando uma pessoa tem sua voz ou seu rosto copiado ou, então, quando uma pessoa consegue modificar completamente a sua aparência por meio de aplicativos. Isso possibilita que outros não consigam identificá-la ou acabem a confundindo com uma celebridade, por exemplo.
Por isso, é importante estar atento aos pequenos erros que a tecnologia ainda possui, assim como nunca deixar dados desnecessários expostos ou confiar em tudo que se vê na web. Nos próximos parágrafos, vamos falar mais sobre como identificar esse tipo de situação.
Como falamos acima, o deepfake acontece quando, por meio de uma inteligência artificial, é possível alterar elementos visuais e sonoros da identidade de uma pessoa. Para ficar mais simples, é quando a IA consegue alterar o rosto, o corpo e a voz de uma pessoa, podendo fazê-la parecer outra pessoa conhecida ou simplesmente imitar alguém desconhecido para que não seja possível reconhecer o autor.
Ele é criado por meio do aprendizado da máquina (conhecido como machine learning) a partir de dados disponíveis na internet ou dados fornecidos a ele por meio de bancos. Quanto mais material disponível, melhor é a compreensão da IA e melhor será o resultado do deepfake. Esse treinamento lembra um pouco o que falamos em nosso artigo sobre o ChatGPT.
Alguns dos principais programas para realizar o DeepFake são o DeepFaceLab, o ZAO e o FakeApp.
Inicialmente, o objetivo da técnica seria conseguir reproduzir situações humorísticas, trazer "de volta à vida" artistas que já se foram, garantir conteúdos novos inofensivos, porém, a tecnologia passou a ser utilizada também por criminosos.
Inclusive, essa preocupação já apareceu em novela da Globo tratando sobre um pedófilo que buscava enganar uma jovem.
De certa forma, sim! O deepfake possui o mesmo princípio que o ChatGPT e o Midjourney, por exemplo. Ambos são inspirados no conceito das Redes Adversariais Generativas (GAN), em que a tecnologia aprende a partir das informações com as quais ela é alimentada.
A tecnologia que altera a aparência ainda está no início, porém, como a velocidade do seu aperfeiçoamento é muito grande, será difícil saber o que é real e o que é fake no futuro. Porém, no momento, ainda é possível descobrir por meio de algumas falhas:
A CRP Mango é uma agência de marketing digital, tecnologia e e-commerce que conta com mais de 20 anos de experiência. Nossos especialistas estão sempre atentos a todas as mudanças no cenário tecnológico e sempre trazem novidades em nosso blog.
Conheça mais sobre as tendências da tecnologia acessando o nosso blog.
Somos uma agência especializada em serviços digitais que oferece soluções personalizadas para cada cliente.
Com mais de duas décadas de experiência e mais de 500 projetos executados, oferecemos soluções efetivas para o desenvolvimento de websites, eCommerce, gestão de redes sociais, SEO e muito mais.