O chefe do Instagram, Adam Mosseri, disse que a plataforma ainda não sabe como combater perfis que usam deep fakes criados por inteligência artificial para reproduzir conteúdo original.
Mosseri reconheceu estar “muito preocupado” com a prática, mas descartou uma proibição geral de conteúdos produzidos com a tecnologia.
O executivo afirmou que a Meta está avaliando como direcionar mais tráfego aos autores originais e como lidar com conteúdos que são cópias integrais de produções desses autores.
O chefe do Instagram, Adam Mosseri, reconheceu que a rede social ainda não tem uma solução para perfis que reproduzem conteúdo usando deep fakes criados por IA. A prática tem sido relatada ao executivo por criadores no próprio Instagram , segundo o jornal britânico The Independent .
Um dos casos foi apontado pelo comediante norte-americano George Brett Olson, que encontrou uma conta que publicou uma de suas apresentações usando, no lugar dele, um avatar feminino gerado por IA. O vídeo mantinha o áudio e o texto da apresentação, mas a imagem foi substituída pelo deep fake.
O executivo da rede social afirmou estar “muito preocupado” com a prática, mas descartou uma proibição geral de conteúdos produzidos com a tecnologia e disse que discutiria medidas com a equipe da plataforma.
Perfis de IA reproduzem conteúdo original
Perfis de IA copiam conteúdo autentico e substituem criadores por avatares de IA (ilustração: Vitor Pádua/Tecnoblog)
Segundo Olson, o mesmo tipo de conteúdo vem aparecendo em outros segmentos. Há perfis que usam vídeos de dançarinos como base para gerar gravações nas quais personagens criados por IA reproduzem as coreografias, por exemplo.
O perfil que reproduziu a apresentação do comediante tinha mais de 300 mil seguidores e direcionava usuários para uma página no OnlyFans. Outro perfil, citado pela também comediante Julia Jasunas, reunia cerca de 250 mil seguidores.
Mosseri respondeu diretamente à publicação de Olson no Instagram. Segundo o executivo, a Meta está preocupada com esses perfis, mas uma proibição ampla de conteúdo de IA não seria prática. “Vai ficar cada vez mais difícil de identificar, e nem todo conteúdo é ruim, embora haja muito lixo”, escreveu Mosseri.
Ele afirmou ainda que o Instagram pretende direcionar mais tráfego aos autores originais e reconheceu que a plataforma precisa avaliar como agir quando conteúdos são cópias integrais de produções desses autores. Há exemplos em redes vizinhas: o X, de Elon Musk, mudou recentemente seu algoritmo de recomendação para limitar o alcance de conteúdo copiado e promoveu mudanças no sistema de monetização para privilegiar criações originais.
Sistema de denúncias também é um desafio
Em outro comentário, Mosseri abordou as ferramentas disponíveis para solicitar a remoção de conteúdos. A plataforma permite denúncias por violação de direitos autorais, mas, segundo o executivo, o mecanismo nem sempre resolve as situações citadas pelos criadores.
Segundo ele, muitos criadores podem não ter tomado medidas formais relacionadas à proteção dos próprios trabalhos e que a rede precisa encontrar uma maneira “de ajudar esses criadores sem permitir que agentes mal-intencionados façam mais denúncias falsas”. Isso, de acordo com o executivo, “acontece o tempo todo”.
Mosseri abordou anteriormente essa encruzilhada no tratamento à IA na plataforma. Ele já disse que conteúdos gerados por inteligência artificial não deveriam aparecer para quem não demonstra interesse por eles , mas negou que os usuários devessem ter controle para bloqueá-los — isso continua a cargo do algoritmo.
Chefe do Instagram admite que ainda não sabe como combater deep fakes
