O que é deepfake: impactos dessa tecnologia e como não cair em golpes

Vamos falar sobre o que é deepfake, essa tecnologia que desperta tanto fascínio quanto apreensão, devido às suas possíveis aplicações no dia a dia.

Essa técnica de inteligência artificial possibilita a criação de vídeos ou áudios extremamente realistas, nos quais rostos e vozes são manipulados para simular  características de outra pessoa, frequentemente sem seu consentimento. 

Isso gera implicações éticas e de segurança significativas; por isso, é importante estar atento às nuances tecnológicas e suas repercussões no cotidiano.

Entenda o que é deepfake, como a tecnologia funciona, exemplos práticos e algumas dicas para reconhecer seu uso e se proteger de possíveis golpes.

O que é deepfake? 

O termo “deepfake” vem da junção de “deep learning” (aprendizado profundo) com “fake” (falso), referindo-se a vídeos, imagens ou áudios gerados por inteligência artificial, que se assemelham muito à realidade. 

Usando algoritmos avançados de aprendizagem de máquina (ou machine learning), os deepfakes são capazes de manipular ou gerar conteúdo digital com alto grau de realismo.

Seus usos experimentais envolvem, principalmente, a substituição de rostos ou simulação de vozes, para fins de entretenimento.

Essa tecnologia tem potencial para aplicações também na educação, porém levanta questões éticas e possível aumento da disseminação de desinformação.

Há uma preocupação quanto ao uso dessa ferramenta na criação de falsas representações de pessoas, dizendo ou fazendo coisas que nunca aconteceram na realidade. Isso pode ferir direitos básicos, como o consentimento do uso da sua própria imagem ou voz, e pode gerar prejuízos de reputação irreversíveis.

Como funciona o deepfake 

O deepfake é produzido por uma técnica de inteligência artificial que combina e sobrepõe imagens e vídeos existentes para obter um terceiro resultado. 

Isso é feito utilizando algoritmos conhecidos como redes generativas adversárias (GANs), onde duas redes neurais competem uma com a outra: uma cria a imagem falsificada e a outra tenta detectar a falsificação. 

Com o treinamento contínuo, a rede que cria a falsificação torna-se cada vez mais eficaz em reproduzir detalhes realistas, fazendo com que o resultado final seja surpreendentemente convincente e, em muitos casos, quase indistinguível da realidade para alguém mais desavisado.

Deepfake é inteligência artificial? 

Sim, deepfake é uma manifestação de inteligência artificial (IA), especificamente nas áreas de aprendizado de máquina e visão computacional. 

A similaridade reside nos algoritmos de IA, que permitem aprender padrões e dados para gerar conteúdos falsos, porém hiper-realistas. 

A diferença está no propósito específico do deepfake; enquanto a IA tem um escopo amplo, abrangendo numerosas aplicações e benefícios, o deepfake foca na simulação de imagens, vídeos e áudios com objetivos, geralmente, maliciosos. 

Portanto, deepfake é uma aplicação especializada dentro do vasto campo da inteligência artificial.

Tipos de deepfake

Os usos do deepfake se dividem em várias categorias, incluindo vídeos manipulados, criação de áudio falso e síntese de texto.

Podem variar desde a substituição de rosto até a emulação de padrões de escrita personalizados, como veremos em detalhes abaixo:

Deepfake de texto 

Deepfake de texto é uma técnica avançada, onde algoritmos de inteligência artificial produzem textos que imitam a escrita humana. 

É possível criar artigos, diálogos ou qualquer conteúdo textual coerente e convincente, que pareça ser de autoria de uma pessoa. 

Esse tipo de deepfake tem aplicações em chatbots, geração de conteúdo fictício ou até na simulação de estilos de escrita de indivíduos específicos, como escritores renomados.

Isso traz tanto oportunidades quanto desafios éticos em relação aos direitos autorais,  autenticidade e credibilidade da informação.

Deepfake de redes sociais 

Os deepfakes de redes sociais representam um desafio crescente, com vídeos e imagens forjadas que disseminam desinformação. 

Muitos conteúdos usam figuras públicas para criar conteúdos falsos que podem viralizar rapidamente. 

A detecção requer vigilância, regulamentação e o uso de tecnologias de verificação, para combater a propagação de fake news e proteger a reputação das pessoas. 

Atualmente, as big techs, proprietárias das principais redes sociais, têm implementado formas de identificação e punição para usuários que tentam criar falsificações com finalidade de prejudicar ou difamar outras pessoas..

De forma paralela, alguns famosos, que tiveram suas imagens criadas em deepfake e usadas para aplicar golpes, têm processado as redes sociais que veiculam tais vídeos.

Legislações nesse sentido ainda caminham a passos lentos, mas será necessário maior velocidade na regulamentação do uso de IA, já que a tecnologia tem avançado rapidamente.

Deepfake de voz 

Deepfake de voz é uma técnica sofisticada que utiliza IA para clonar a voz humana, permitindo criar áudio indistinguível do real. 

Com aplicativos variados, desde dublagem até assistentes virtuais, esses deepfakes podem personalizar experiências ou mesmo forjar declarações.

Contudo, implicações éticas devem ser ponderadas para prevenir abusos, especialmente no que diz respeito a fraudes, direitos autorais e notícias falsas.

Também é muito importante considerar os impactos no mercado de trabalho, como profissionais de dublagem que veem seus ofícios ameaçados por essa tecnologia. 

Deepfake em tempo real 

Os deepfakes em tempo real representam o avanço mais inquietante desta tecnologia. 

Utilizando IA avançada e aprendizado de máquina, essa categoria permite a manipulação de vídeos e áudios durante chamadas ao vivo ou transmissões diretas, substituindo o rosto ou a voz de uma pessoa em tempo real. 

Nesse caso, temos uma tecnologia com um potencial muito alto para aplicação de golpes, que podem causar impactos financeiros, políticos e jurídicos. 

Esse desenvolvimento causa preocupação em termos de segurança e privacidade, exigindo ferramentas e legislações robustas para sua detecção e combate eficaz.

Exemplos famosos de deepfake 

O uso do deepfake ganhou notoriedade com exemplos que viralizaram na internet. 

Um deles é o vídeo em que o rosto do ator Steve Buscemi foi habilmente inserido no corpo de Jennifer Lawrence durante uma premiação.

No vídeo, vemos a atriz discursando, porém a cabeça é do ator de comédia Steve Buscemi, que gera uma cena bizarra e cômica, ao mesmo tempo. 

Confira o vídeo.

No Brasil, um dos expoentes do uso dessa ferramenta para entretenimento foi o criador de conteúdo Bruno Sartori, que usou bastante a tecnologia para fazer sátiras, principalmente com políticos e outras figuras públicas.

Mais recentemente, vimos uma propaganda da empresa Nomad, que utilizou de deepfake para fazer o ator americano Will Smith falar em português.

O próprio roteiro faz questão de enfatizar o uso de deepfake, mostrando a qualidade que a ferramenta atingiu em mostrar um ator de língua nativa inglesa falando português no seu tom e timbre, o que dispensa  dublagem ou legenda.

Assista o vídeo aqui. 

Perigos do uso dessa tecnologia 

Como vimos, a tecnologia deepfake, apesar de revolucionária, carrega consigo perigos significativos. 

Os vídeos e áudios hiper-realistas gerados podem ser usados – e são – para criar desinformação e notícias falsas, afetando a reputação de indivíduos, influenciando eleições e até mesmo ameaçando a segurança nacional. 

A propagação de conteúdo falso pode causar danos irreparáveis, prejudicar a confiança pública e a legitimidade da comunicação. 

Além disso, há tentativas de usar a tecnologia para acessar contas de bancos ou plataformas, como a OLX, via reconhecimento facial.

Por isso, investir em soluções de biometria facial, autenticação em dois fatores e outras ferramentas pode ajudar na defesa de possíveis ataques.

Também é importante ficar atento ao deepfake de voz, que golpistas usam para telefonar e se passarem por familiares da vítima, seja para pedir dinheiro ou forjar um sequestro.

Combine palavras de segurança e mantenha sempre uma boa comunicação com seus entes queridos, para não cair nesse tipo de golpe que usa deepfake.

Estar ciente dos riscos associados a deepfakes é fundamental para desenvolver mecanismos de defesa, políticas de regulamentação eficazes e promover a educação digital, a fim de proteger a sociedade contra seus efeitos nocivos. 

Como identificar um deepfake 

Reconhecer um deepfake pode ser desafiador, afinal, a tecnologia só avança e fica cada vez mais realista e precisa nas imitações.

Isso torna cada vez mais essencial obter recursos para se proteger e identificar rapidamente essas manipulações digitais.

Alguns sinais podem ser alertas de possíveis deepfakes, então fique atento quando estiver vendo algum conteúdo que tem potencial de ser falso.

Primeiramente, se um conteúdo parece absurdo e mostra um comportamento de determinada pessoa muito fora do seu padrão, já é um sinal para desconfiança.

Fique atento para discrepâncias na sincronização labial, expressões faciais incoerentes ou texturas anômalas da pele. 

Inconsistências no background, padrões estranhos no piscar dos olhos e diferenças na qualidade do áudio em relação ao vídeo também são indicativos.

Verifique sempre a fonte do conteúdo e confirme a veracidade das informações com fontes confiáveis. 

Também há uma sensação conhecida como “uncanny valley” ou vale da estranheza, que faz com que algo pareça estranho no rosto de pessoas quando há algum tipo de manipulação digital.

Essa sensação acontece naturalmente, já que passamos a vida toda vendo rostos reais. Qualquer impressão que causa uma sensação de estranheza pode ser indicativo de manipulação digital.

Lembre-se de que a educação e a conscientização são suas maiores aliadas nesse combate: quanto mais treinados seus olhos estiverem, mais fácil fica reconhecer um deepfake.

Aproveite para conferir mais conteúdo no nosso blog e encontre mais recursos e informações valiosas para manter-se atualizado sobre as tendências tecnológicas e suas aplicações, além de dicas para se proteger dos eventuais perigos. 

Não fique por fora das novidades, acompanhe o blog dicas OLX para estar sempre atualizado.

Conclusão 

Vimos as complexidades da tecnologia e entendemos o que é deepfake, ficando evidente a importância de estar bem informado e preparado para os avanços da inteligência artificial. 

Enquanto os deepfakes podem ter usos inofensivos e até divertidos, as possíveis implicações éticas e legais que acompanham sua aplicação indevida não podem ser subestimadas. 

Da política ao entretenimento, o impacto dos deepfakes é vasto e multifacetado, e é essencial adquirir ferramentas de conhecimento para discernir a verdade da ficção. 

Leia também:

• Como saber se um boleto é verdadeiro ou falso? 5 dicas
• Como denunciar fraude na internet? Confira 5 dicas
• Golpe na internet: conheça 10 tipos de fraude e saiba como evitar