🔎 Deepfake é uma técnica que usa inteligência artificial para alterar fotos e vídeos. Com ela, por exemplo, é possível trocar o rosto de uma pessoa pelo de outra ou modificar o que alguém diz em um vídeo.

O novo gerador de imagens da Meta, chamado Muse Image, está ativado por padrão e pode ser usado no Instagram, no WhatsApp e no site da Meta AI, o chatbot da empresa de Mark Zuckerberg. Em breve, ele chegará ao Facebook e ao Messenger.

O g1 testou a ferramenta no site da Meta AI e constatou que ela foi capaz de criar deepfakes de terceiros apenas com a menção ao @ da pessoa, sem que fosse necessário informar a rede social. Em muitos casos, a IA identificou automaticamente que se tratava do Instagram. Em outros, chegou a pesquisar fotos da pessoa no Google.

No comunicado de lançamento, a Meta afirmou que pode usar publicações públicas feitas em suas redes sociais para gerar imagens com IA e disse que os usuários “têm controle sobre como seu conteúdo pode ser marcado para criação com IA, com uma configuração simples para desativar esse recurso a qualquer momento”.

“Mencione um amigo com @ no app da Meta AI para trazê-lo à sua criação, compartilhe diretamente no seu story ou grupo de chat, ou remixe o que está em alta. É IA a serviço das experiências sociais que bilhões de pessoas já amam”, afirmou a empresa.

O g1 também testou a ferramenta com contas privadas, mas a criação das imagens foi bloqueada.

Procurada, a Meta disse que a ferramenta conta com “controles rigorosos e mecanismos de segurança desde o primeiro dia” e que “tomará medidas contra qualquer conteúdo que viole nossos Padrões da Comunidade”.

Embora o recurso esteja sendo liberado gradualmente, a Meta já permite impedir que terceiros usem seus conteúdos públicos para criar imagens com a Meta AI. Veja como:

1. No seu perfil, toque no menu (as três barras no canto superior direito).
2. Em “Como outras pessoas podem interagir com você”, toque em “Compartilhamento e reutilização”.
3. Em “Permita que as pessoas reutilizem seu conteúdo no Instagram e com recursos de IA da Meta”, desmarque as opções “Posts” e “Reels”.

➡️ Nas configurações do app Meta AI, em um recurso separado do Muse Image, também é possível definir quem pode usar sua imagem em criações com IA. Para isso, acesse as configurações da Meta AI, toque em “Sua imagem” e envie uma selfie e outras fotos suas.

Em seguida, escolha quem poderá usar essas imagens: “Somente você”, “Seguidores que eu aprovo”, “Seguidores que eu também sigo” ou “Todos”.

Para Patrícia Peck, advogada especialista em direito digital, a decisão de permitir o uso de imagens de colegas publicadas no Instagram para criações com a IA da Meta mostra que a corrida pela inteligência artificial está acontecendo sem a devida atenção a questões éticas, de governança, de segurança e aos cuidados necessários com as pessoas.

“Se a IA da Meta causar danos a terceiros e ficar comprovado que medidas de proteção, conhecidas como guard rails, poderiam ter sido adotadas, mas não foram, isso pode ser caracterizado como imprudência. Nesse caso, a empresa responde pelos danos causados a terceiros”, afirmou.

“Desenvolvemos o Muse Image com controles rigorosos e mecanismos de segurança desde o primeiro dia. Contas privadas e aquelas pertencentes a usuários menores de 18 anos são automaticamente excluídas, e usuários adultos com contas públicas podem optar por não participar com apenas alguns cliques. Tomaremos medidas contra qualquer conteúdo que viole nossos Padrões da Comunidade.”