O aplicativo de troca de rosto deepfake da ZAO levanta preocupações de privacidade na China

A IA e o aprendizado de máquina penetraram em quase todas as partes da tecnologia e produtos modernos, mas uma de suas aplicações mais caprichosas é a troca de face. Apelidados de “deepfakes”, esses programas podem quase convencer seu rosto no de alguém. Um desses aplicativos chamado ZAO se tornou uma sensação da noite para o dia na China por causa de quão impressionantemente convincentes foram seus resultados finais. Isso, no entanto, rapidamente deu lugar ao medo e à preocupação, uma vez que ficou evidente como a tecnologia poderia ser mal utilizada para atos criminosos.

A maioria dos deepfakes apenas “corta e cola” seu rosto em outro, mas o ZAO realmente se destaca pelos resultados. Você tira apenas uma foto solitária do seu rosto, escolhe alguns videoclipes de filmes ou de atores e depois se vê magicamente como a estrela principal dos programas. Graças à AI, é claro.

Após seu sucesso, no entanto, a opinião sobre o ZAO mudou rapidamente depois que foram levantadas questões sobre implicações de privacidade e segurança. Acontece que o ZAO tinha um contrato de usuário de 6.000 caracteres que dava aos desenvolvedores direitos sobre qualquer imagem criada no aplicativo gratuitamente e sem a necessidade de permissão ou mesmo conhecimento. O contrato do usuário já foi atualizado para resolver isso, mas isso só deu lugar a outro medo.

Os desenvolvedores Momo agora basicamente têm um banco de dados de rostos de usuários, rostos que podem ser usados, com a mesma IA do deepfake, para criar conteúdo enganoso, se não ilegal. De fato, as pessoas precisam usar apenas a foto de outra pessoa para criar os vídeos, sem a necessidade de invadir o banco de dados do ZAO. E em um país como a China, onde o reconhecimento fac é um sistema de segurança popular para aplicativos e serviços, que se tornou uma importante fonte de medo.

A Apple ainda pode não ver os perigos do aplicativo, pois continua sendo o principal download do iOS na China, mas o próprio governo chinês poderia acabar com ele, se o considerar controverso demais. Por outro lado, também poderia se beneficiar do banco de dados de rostos do ZAO de usuários felizes em carregá-los por alguns segundos de fama imaginada.