O crescente número de burlas que estão a ser cometidas na China, com recurso à Inteligência Artificial, usando o deepfake, ou seja, a criação de vídeos falsos, levou as autoridades a lançarem um alerta. A reportagem é publicada esta segunda-feira pelo jornal espanhol El Mundo, que dá vários exemplos de situações em que rostos e vozes de mulheres são “roubados” para estes esquemas fraudulentos.
Umas vezes era Natasaha, outras Anna, mas também Grace. Era sempre o mesmo rosto, de uma suposta jovem russa que falava mandarim fluentemente, mas com várias identidades, consoante a rede social chinesa que utilizada, escreve o jornal espanhol.
Vídeos curtos, menos de um minuto. O rosto e a voz elogiavam a grandeza da China, a sua história, cultura e povo. Mas ia mais longe a dizia que queria conhecer homens chineses para se casar. Alegava que eram mais bonitos e trabalhadores que os russos.
Olga Loiek não queria acreditar quando encontrou esses vídeos. Era a sua cara e a sua voz a dizer coisas que nunca tinha dito. Vídeos que nunca tinha gravado. Tudo feito com recurso a um programa de inteligência artificial (IA). Não é russa, mas sim ucraniana, tem 20 anos e estuda numa universidade norte-americana.
Na verdade, Olga Loiek tem um canal de Youtube, que criou há cerca de cinco meses onde aborda questões de saúde mental e que tem 17 mil subscritores. Os primeiros alertas, dos seus seguidores, chegaram em fevereiro, escreve o El Mundo. Tinham visto vídeos falsos nas redes sociais chinesas Douyin – semelhante ao TikTok – e Bilibili.
Resolver traduzir os vídeos para perceber as mensagens já que não fala nem percebe mandarim. Num deles, o seu avatar dizia: “Se casar com uma mulher russa, ela lhe dará todos os bebés estrangeiros que quiser. E ela também irá lavar a sua roupa e cozinhar todos os dias”.
Havia sempre a referência a um possível casamento, mas o objetivo era outro. Levar os seguidores chineses a clicar nos links que seguiam para lojas online onde eram vendidos produtos supostamente fabricados na Rússia.
Recorrendo ao programa HeyGen - uma empresa de Inteligência Artificial sediada em Los Angeles e lançada na China em 2020, usavam discursos nacionalistas para conseguirem vender os seus produtos.
Já o ano passado tinha sido detetado e suspendido o perfil de uma “russa” chamada Nana, que não existia na vida real, com cerca de dois milhões de seguidores. A conta era usada para vender produtos russos.
Mas também já foi notícia, segundo o El mundo, o perfil de um soldado russo que lutava na Ucrânia e publicava vídeos alegadamente gravados na linha da frente de combate. Tal como os outros, a ideia era vender produtos russo. Chegou a ter 400 mil seguidores.
O recurso à Inteligência Artificial em fraudes é uma realidade e uma grande ameaça. Num dos casos mais recentes, em Hong Kong, uma empresa perdeu cerca de 24 milhões de euros, porque um funcionário foi convencido, pelos burlões, que estava numa videoconferência com executivos da empresa onde trabalhava. Este nunca desconfiou de nada e foi cumprindo as ordens que lhe eram dadas.