Home Notícias Toma-lhe Deepfake: Microsoft lança detector que identifica imagens e áudios falsos

Toma-lhe Deepfake: Microsoft lança detector que identifica imagens e áudios falsos

Semana passada, a empresa lançou duas novas ferramentas projetadas para combater a desinformação produzida pelo mal-caratismo digital de gente sem escrúpulo, os produtores de Deep Fake, que tem como objetivo criar informações falsas com tal verossimilhança que, em inglês, o termo “fake” precisou ganhar um adjetivo extra pra expressar a profundidade – e perfeição imperceptível aos olhos e ouvidos humanos – dessas falsidades, o “deep”. Fake já era ruim. Deepfake, tudo junto numa palavra só, piorou muito.

Deepfake é resultado do avanço da Inteligência Artificial na área da desinformação orquestrada, muito utilizada no ambiente político. Vamos ver isso de montão agora nas eleições norte-americanas e também nas brasileiras, mas afeta todos os setores da verdade, porque para tudo pode-se, hoje, criar inverdades maquiadas com perfeição absoluta. Vídeos e áudios de gente performando coisas que nunca perfomaram efetivamente na vida, como, por exemplo, o Bolsonaro discursando a favor dos gays ou o Trump conclamando os mexicanos a se tornarem cidadãos norte-americanos.

A partir de imagens ou áudios reais, o algoritmo gera sua própria imagem ou trecho de áudio falsos, com criadores deepfake usando computação gráfica e ajustando manualmente o resultado para tornar tudo ainda mais realista. Detalhe: para fazer um deepfake não são necessários computadores sofisticados ou muito conhecimento sobre software. Existem programas de código aberto que as pessoas podem acessar gratuitamente online e, no que diz respeito a encontrar vídeos de pessoas famosas, bem, temos que agradecer ao YouTube por nos facilitar tudo isso.

Pois a Microsoft criou dois mecanismos que pretendem ajudar a combater tudo isso, detectando conteúdos falsos na web, são eles, o Microsoft Video Authenticator e o Spot the Deepfake.

O Authenticator analisa vídeos ou imagens e informa aos usuários a chance percentual de eles terem sido manipulados artificialmente. Já o Spot Deepfake é uma plataforma de informação que ensina a todos nós como reconhecer malhos.

Tecnicamente, o Authenticator detecta o limite de mistura de elementos deepfake e desbotamento sutil ou escala de cinza que o olho humano pode não ser capaz de ver.

Uma ferramenta incorporada ao Microsoft Azure, o serviço de computação em nuvem da empresa, permite que os produtores de conteúdo adicionem hashes e certificados digitais ao seu conteúdo, e um leitor (que pode ser usado como uma extensão do navegador) verifica os certificados e combina os hashes para indicar que o conteúdo é autêntico.

O impacto efetivo dessas novas ferramentas da Microsoft ainda estamos por saber, mas a companhia ter feito o que fez merece nossos aplausos, mesmo de você, fanático Apple. Facebook, Twitter e YouTube também tomaram medidas para banir e remover deepfakes de seus sites. E o Reality Defender da AI Foundation usa algoritmos de detecção de mídia sintética para identificar conteúdo falso. São bem-vindas iniciativas reais, para combater o irreal. Do mal.

LEAVE A REPLY

Please enter your comment!
Please enter your name here