Facebook remove perfis falsos com fotos geradas por Inteligência artificial
O Facebook anunciou a derrubada de uma rede de conteúdo e engajamento falso construída em suas plataformas para promover páginas de fora da rede social.
Algumas das contas utilizavam fotos de perfis geradas por inteligência artificial para não levantar suspeitas, enquanto outras copiavam as fotos de perfis legítimos. Os responsáveis também teriam gasto US$ 9,5 milhões em publicidade contratada a partir de contas legítimas e falsas.
A rede era composta por 610 perfis, 89 páginas e 156 grupos no Facebook, além de 72 contas do Instagram. As publicações alcançavam 55 milhões de seguidores no Facebook, 381,5 mil membros de grupos no Facebook e 92 mil seguidores no Instagram.
De acordo com o Facebook, o objetivo do esquema era promover páginas fora do Facebook ligadas à BL Media, vinculada à Epoch Media, que é responsável pelo jornal “Epoch Times”.
As contas falsas eram utilizadas para criar um engajamento inorgânico nessas postagens, o que viola as políticas do Facebook — o engajamento pode levar o algoritmo da rede social a entender que um conteúdo é altamente relevante e assim mostrá-lo para mais pessoas. Pelo menos alguns dos indivíduos ligados a essas atividades ficavam no Vietnã, mas o conteúdo também era publicado em inglês e espanhol.
A Epoch Media negou estar relacionada à BL Media. De acordo com a empresa, a BL Media foi fundada por um ex-funcionário e que também emprega ex-funcionários do grupo. Mesmo assim, as duas entidades não mantêm qualquer relação, de acordo com um comunicado enviado pela empresa ao jornal “New York Times”.
Segundo o Facebook, os responsáveis tentaram esconder a origem das publicações e a coordenação que existia no esquema. Apesar disso, um elo foi encontrado entre os perfis e as empresas no decorrer da investigação feita pelo Facebook. A rede social não forneceu detalhes sobre a natureza do vínculo identificado.
O Facebook baniu a Epoch Times de seu sistema de publicidade em agosto, alegando que a publicação tentava veicular um grande volume de anúncios favoráveis a Donald Trump sem deixar claro a origem do anunciante. Os anúncios também promoviam teorias conspiratórias. No mesmo mês, a rede social promoveu um endurecimento das regras para anúncios políticos.
Depois deste caso, a BL Media também está proibida de participar e anunciar nas plataformas do Facebook.
Perfis falsos na Geórgia
Além de desmantelar a rede de distribuição de conteúdo que atuava nos Estados Unidos, o Facebook também removeu perfis e páginas que publicavam notícias políticas na Geórgia.
Assim como no caso americano, os perfis eram usados para impulsionar o engajamento nas publicações de forma artificial. Porém, algumas das contas tinham perfis falsos de partidos políticos, grupos de ativistas e outras pessoas públicas, segundo o Facebook.
O Facebook acusou a Panda, uma agência de publicidade da Geórgia, de organizar o esquema. O conjunto de páginas e perfis falsos tinha acumulado 442,3 mil seguidores.
