A Meta, empresa responsável pelo Facebook, está enfrentando críticas intensas por sua ineficácia em controlar a disseminação de imagens sexualizadas geradas por inteligência artificial, conhecidas como deepfakes. Após uma investigação da CBS News, foi revelado que dezenas de imagens de celebridades femininas, como Miranda Cosgrove, Jeanette McCurdy, Ariana Grande, Scarlett Johansson e a ex-tenista Maria Sharapova, foram amplamente compartilhadas na plataforma, acumulando centenas de milhares de curtidas e compartilhamentos. Essas imagens muitas vezes substituem o corpo das celebridades por representações sexualizadas criadas por IA, sem o consentimento das mesmas.
Erin Logan, porta-voz da Meta, afirmou que a empresa removeu diversas imagens por violarem suas políticas e que continuará monitorando o conteúdo. Entretanto, um estudo da Reality Defender, uma plataforma que detecta mídias geradas por IA, indicou que muitos dos conteúdos ainda permanecem disponíveis, levantando preocupações sobre a eficácia das políticas da Meta. O cofundador da Reality Defender, Ben Colman, destacou que a maioria desses deepfakes não tem o consentimento dos indivíduos retratados e que o conteúdo está crescendo rapidamente, sem que medidas eficazes sejam implementadas para combatê-lo.
A Meta possui políticas que proíbem a disseminação de imagens sexualizadas e de nudez não consensual, mas as regras atuais foram consideradas insuficientes pelo seu Conselho de Supervisão, que recomenda mudanças para abordar especificamente o conteúdo gerado por IA. O co-presidente do conselho, Michael McConnell, enfatizou que as imagens de deepfake não consensuais representam uma violação grave da privacidade e dignidade pessoais, afetando desproporcionalmente mulheres e meninas.
A situação não é exclusiva da Meta; outras plataformas, como a X (anteriormente conhecida como Twitter), também enfrentam desafios semelhantes. A X viu a necessidade de bloquear temporariamente buscas relacionadas a Taylor Swift após a circulação de imagens pornográficas geradas por IA com a imagem da cantora. Um estudo do governo britânico projetou que o número de deepfakes nas redes sociais aumentaria para 8 milhões em 2025, um salto alarmante em relação aos 500 mil do ano anterior.
Com o crescente uso de tecnologias de inteligência artificial para criar conteúdos enganosos e prejudiciais, a necessidade de regulamentações mais rigorosas e eficazes se torna cada vez mais urgente, especialmente para proteger a comunidade feminina e garantir um ambiente digital mais seguro para todos.
Quer ficar por dentro de tudo que rola? Dá aquele follow no Insta do Acapa.com.br clicando aqui e cola com a gente nas notícias mais quentes