Com o progresso contínuo da tecnologia, é inevitável surgirem formas negativas de utilização. No caso da Inteligência Artificial, cujo potencial é imenso, ela também é explorada por indivíduos mal-intencionados para criar o que são conhecidos como “Deepfakes”, conteúdos falsos gerados por IA.
Essa exploração indevida da IA afeta pessoas, empresas e até governos, causando prejuízos financeiros, de imagem e reputação. Não é à toa que o Tribunal Superior Eleitoral (TSE) aprovou, em fevereiro, 12 resoluções sobre o uso da Inteligência Artificial nas eleições de 2024, inclusive proibindo o uso de deepfakes.
O assunto de edição artificial de imagens voltou à tona depois de uma foto da princesa de Gales, Kate Middleton, ser retirada de agências de notícias por suspeita de “manipulação”. Posteriormente, a princesa admitiu que editou a imagem pessoalmente.
Neste artigo você entenderá o que é deepfake e como identificar esses conteúdos para não cair em fake news. Confira!
O que é Deepfake?
.jpg)
De forma simples, conteúdos deepfake são vídeos, imagens e áudios falsos que, usando a Inteligência Artificial e conceitos de deep learning, parecem reais. Essa técnica é capaz de simular expressões, voz, formato do rosto e criar situações fictícias convincentes.
Um exemplo é a imagem acima, que é um trecho de um vídeo do cineasta holandês, Bob de Jong (na parte de baixo), no qual ele emula a voz e o rosto do ator Morgan Freeman com técnicas de deepfake. Você pode conferir o vídeo completo aqui.
Neste caso, uma pessoa se passa por outra, mas há várias outras formas de usar deepfake em que apenas se altera a voz de alguém ou até mesmo uma imagem, como foi o caso do Papa Franscisco e o casaco de frio, que viralizou no ano passado.
Esse problema não é tão recente, mas com a difusão da Inteligência Artificial ficou muito mais fácil alterar qualquer conteúdo. Há uma variedade enorme de aplicativos e softwares capazes de produzir deepfakes com muita rapidez e qualidade, especialmente quando envolve áudios, o que é um prato cheio para golpistas.
Como os deepfakes afetam as empresas?
Como citamos, os conteúdos deepfake não se restringem às celebridades ou políticos, mas também podem mirar as empresas. Nesse contexto, os golpes podem ter objetivo financeiro, reputacional e de imagem e também violação de dados.
Como exemplo, em Hong Kong, um funcionário de uma empresa do setor financeiro fez uma transferência de US$ 25 milhões após participar de uma reunião forjada com deepfake. Os golpistas recriaram a voz e a imagem do diretor financeiro da empresa e induziram o funcionário a concluir a falsa transação comercial.
Por isso é importante investir em segurança cibernética para prevenir fraudes e ataques digitais é essencial. Aqui no Venturus essa é uma das maiores preocupações ao trabalharmos nos projetos dos nossos clientes. Entre em contato com nossos especialistas e saiba como podemos te ajudar!
Como identificar deepfakes
A boa notícia é que já existem softwares e aplicativos, alguns até gratuitos, que conseguem identificar conteúdos gerados a partir da Inteligência Artificial. E eles funcionam exatamente como os deepfakes, ou seja, utilizam a mesma tecnologia, mas voltada para um bem comum.
O Deepware, por exemplo, é um software que identifica vídeos gerados por IA. Basta subir o vídeo desejado e a ferramenta identifica se houve alguma manipulação sintética. Mas é preciso salientar que nem sempre o resultado é preciso, especialmente quando o conteúdo deepfake é produzido de forma profissional.
Já o Hive já é focado em identificar conteúdos textuais ou de imagens feitos por IA, inclusive direto pelo navegador.
Além desses e de outros softwares, é possível também identificar deepfakes com um olhar mais atento e buscando outras fontes de informação.
Nos vídeos, por exemplo, é possível notar alguns defeitos, mesmo que discretos, como:
- falta de sincronização dos lábios com a fala
- movimentos incomuns do piscar de olhos.
- Falta de alguns detalhes característicos da pessoa
No caso de outros tipos de deepfakes, como áudios, imagens ou textos, tente encontrar outra fonte daquela notícia e evite compartilhar conteúdos cuja veracidade você não conheça.
Saia na frente com o Venturus
Fique por dentro das discussões mais quentes do mundo da tecnologia com o Venturus. Assine a nossa newsletter mensal para não perder nada!
