O que são Deepfakes e por que são tão perigosos?

Como

PorMichael Bryant

Última atualização em1 de setembro de 2021

Antes confinados à pornografia, os deepfakes agora estão surgindo em todos os lugares. Mais preocupante: a tecnologia por trás disso está melhorando a cada ano, o que pode ter amplas implicações nos próximos anos.

Mark Zuckerberg realmente admitiu tendo roubado dados de bilhões de pessoas? Barack Obama chamou Donald Trump “um babaca completo?“Cada um desses links de vídeos é um exemplo de deepfake, uma forma perigosa de tecnologia artificial que torna possível colocar palavras na boca de alguém ou um rosto diferente no corpo de outra pessoa. Existem também “skins de voz” e “clones de voz”, que permitem que os brincalhões imitem a voz.

Ao discutir deepfakes, há duas perguntas que valem a pena responder. Primeiro, o que os torna e, segundo, por que eles se tornaram cada vez mais tão eficazes. Então, vamos dar uma olhada.

Deepfakes: Então, qual é o problema?

Sem dúvida, alguns deepfakes são engraçados - uma vez que você está na piada. Imagine, por exemplo, que o 44º presidente dos Estados Unidos realmente tenha chamado publicamente o 45º de um nome ruim ou que a Mulher Maravilha original, Lynda Carter, foi de alguma forma colocado nos filmes mais recentes que realmente estrelaram Gal Gadot.

Infelizmente, conforme os deepfakes ficam melhores, podem surgir problemas e causar problemas significativos. Por exemplo, oponentes políticos podem criar vídeos falsos mostrando seus oponentes em posições comprometedoras. Ao fazer isso, eles poderiam mudar o resultado da eleição. Em um exemplo mais perigoso, imagine o atual presidente dos Estados Unidos declarando guerra à China e o governo chinês acreditando que isso é verdade.

Problemas com deepfakes não precisam envolver celebridades ou funcionários do governo. Por exemplo, com “skins de voz”, um golpista pode convencer um pai de que seu filho está com problemas, ou um falso agente do IRS pode enganar um cidadão desavisado para entregar informações bancárias.

Outros exemplos de deepfakes são golpes de phishing, violações de dados, difamação de reputação, engenharia social, ataques automatizados de desinformação e fraude financeira, entre muitos outros.

Por que eles são eficazes?

A tecnologia de aprendizado profundo melhorou a qualidade dos deepfakes nos últimos anos. E, no entanto, há outras razões para a linha, porque fato e ficção estão se tornando cada vez mais confusos. De acordo com Deep Fake Now, o viés de confirmação e a falsa crença também estão mexendo com nossos cérebros.

Viés de confirmação

Com o viés de confirmação, os indivíduos procuram, interpretam e favorecem as informações de uma forma que apóie suas crenças ou valores.

Como explica a American Psychology Association (APA), “Confirmation Bias é a tendência de buscar informações que apóiam, em vez de rejeita, os preconceitos de alguém, normalmente interpretando as evidências para confirmar as crenças existentes, enquanto rejeita ou ignora qualquer conflito dados."

Falsa Crença

Em psicologia, a teoria da mente se refere à capacidade mental de compreender outras pessoas e seu comportamento. Uma falsa crença é considerada um marco importante para a teoria. É o entendimento de que outras pessoas podem acreditar em coisas que não são verdadeiras.

De volta ao Deep Fake Now: “Com tempo suficiente, alguém, em algum lugar, inevitavelmente usará‘ fatos alternativos ’para apoiar sua agenda. E eles provavelmente usarão tecnologia deepfake para "provar" suas declarações. É a sua maneira de espalhar dúvidas e propaganda dentro das sociedades. ”

Ambos os conceitos mostram como os deepfakes são usados ​​como uma ferramenta para alterar uma opinião.

Deepfakes: é real ou falso?

Embora a tecnologia por trás dos deepfakes esteja melhorando, há maneiras de saber quando um vídeo é especificamente falso. Na verdade, Norton explica que há pelo menos 15 caminhos infalíveis para determinar falsificação. Entre eles estão:

• Movimento não natural dos olhos. Os movimentos oculares que não parecem naturais - ou a falta de movimento dos olhos, como a ausência de piscar - são sinais de alerta. É um desafio replicar o ato de piscar de uma forma que pareça natural. Também é desafiador reproduzir os momentos de visão de uma pessoa real. Isso se torna os olhos de alguém que geralmente seguem a pessoa com quem está falando.
• Falta de emoção. Você também pode detectar transformações faciais ou pontos de imagem se o rosto de alguém não parecer exibir a emoção que deveria estar junto com o que eles supostamente estão dizendo.
• Coloração não natural. Tom de pele anormal, descoloração, iluminação estranha e sombras deslocadas são todos sinais de que o que você está vendo provavelmente é falso.
• Impressões digitais. A tecnologia Blockchain também pode criar uma impressão digital para vídeos. Embora não seja infalível, essa verificação baseada em blockchain pode ajudar a estabelecer a autenticidade de um vídeo. É assim que funciona. Quando um vídeo é criado, o conteúdo é registrado em um livro-razão que não pode ser alterado. Essa tecnologia pode ajudar a provar a autenticidade de um vídeo.
• Pesquisas reversas de imagens. Uma busca por uma imagem original, ou uma busca reversa de imagens com a ajuda de um computador, pode descobrir vídeos semelhantes online para ajudar a determinar se uma imagem, áudio ou vídeo foi alterado de alguma forma. Embora a tecnologia de pesquisa reversa de vídeo ainda não esteja disponível publicamente, investir em uma ferramenta como essa pode ser útil.

Exemplos

Existem muitos exemplos de deepfakes online. Meus favoritos pessoais incluem o seguinte:

Como você pode ver, deepfakes podem ser engraçados, hilários, na verdade. Infelizmente, eles também podem ser perigosos quando a tecnologia é usada ilegalmente. Será interessante ver até onde isso vai como um conceito nos próximos anos.

Como

Como limpar o cache, os cookies e o histórico de navegação do Google Chrome

O Chrome faz um excelente trabalho ao armazenar seu histórico de navegação, cache e cookies para otimizar o desempenho do seu navegador online. Seu modo de ...

Como

Seu guia para compartilhar documentos em Documentos, Planilhas e Apresentações Google

Você pode colaborar facilmente com os aplicativos do Google baseados na web. Este é o seu guia para compartilhar no Documentos, Planilhas e Apresentações Google com as permissões ...