A Apple tomou medidas drásticas ao remover da App Store um grupo de aplicativos que utilizavam inteligência artificial para criar deepfakes de “remoção de roupas”. A decisão veio após uma investigação conduzida pela BBC, que revelou que esses aplicativos estavam sendo promovidos no TikTok como ferramentas para gerar imagens sexualizadas de pessoas sem o consentimento delas.
Os aplicativos, conhecidos como “nudify” ou de “remoção de roupas”, utilizavam IA para apagar digitalmente as roupas de pessoas em fotos, criando imagens ou vídeos nus ou parcialmente nus. Embora as páginas oficiais na App Store descrevessem os apps como formas de “apimentar selfies”, os anúncios pagos no TikTok promoviam os aplicativos como ferramentas para criar imagens sexualizadas de mulheres sem permissão. Alguns anúncios chegavam a prometer a capacidade de “tirar a roupa de qualquer pessoa” ou “colocar qualquer um de biquíni”.
A BBC identificou quatro desses aplicativos que pagavam por anúncios no TikTok. Apesar de a plataforma ter removido as publicidades, vídeos semelhantes, aparentemente publicados por contas ligadas aos desenvolvedores, continuavam disponíveis. Um porta-voz do TikTok afirmou que os anúncios violavam as políticas da rede, que proíbem conteúdos sexualmente sugestivos promovidos por meio de publicidade paga.
A Apple removeu três dos aplicativos da App Store, afirmando que eles só poderão retornar após os desenvolvedores corrigirem os problemas identificados. Um quarto aplicativo, especializado em criar vídeos de mulheres dançando seminuas a partir de fotos, foi completamente removido, e a conta do desenvolvedor foi encerrada. Já o Google informou que está investigando os aplicativos na Play Store, onde um deles já havia sido baixado mais de um milhão de vezes.
Especialistas, como o professor Arvind Narayanan, do Centro de Política de Tecnologia da Informação de Princeton, destacam a necessidade de maior controle sobre o acesso a tecnologias que permitem a criação de deepfakes. Ele defende que autoridades ao redor do mundo deveriam banir esses aplicativos e garantir que redes sociais não lucrem com anúncios que os promovem.
Os chamados aplicativos de “nudificação” têm gerado escândalos em diversos países, como Espanha, Coreia do Sul e Estados Unidos, especialmente envolvendo meninas em idade escolar. Em alguns casos, vítimas foram chantageadas com imagens manipuladas por IA, o que reforça a urgência de medidas regulatórias.
Fonte: Redação
