FX.co ★ A Apple removeu as aplicações de IA da sua App Store que promoviam a criação de imagens de nudez não consentidas

A Apple Inc. removeu várias aplicações geradoras de imagens baseadas em IA que foram alegadamente comercializadas para produzir imagens explícitas não autorizadas. Um inquérito recente da 404 Media revelou como certas empresas exploraram anúncios do Instagram para promover aplicações capazes de tornar as pessoas virtualmente nuas sem o seu consentimento.

Alguns destes anúncios direccionavam os utilizadores para a Apple Store para uma aplicação comercializada como um "gerador de arte", construída especificamente para criar imagens explícitas não consensuais. As aplicações apresentavam capacidades como a troca de rostos em conteúdos para adultos e a remoção digital de vestuário de fotografias. A investigação não só revelou a existência destas aplicações, como também sublinhou a sua promoção em plataformas de publicidade muito utilizadas.

Inicialmente, estas aplicações foram publicitadas através da biblioteca de anúncios do Meta no Instagram. No entanto, assim que estes anúncios foram identificados e sinalizados, a Meta removeu-os de imediato.

Inicialmente, a Apple não respondeu às perguntas do 404 Media. No entanto, depois de receber informações detalhadas, como links diretos para os aplicativos e seus anúncios, a Apple agiu rapidamente.

De acordo com o 404 Media, "a Apple eliminou um total de três aplicativos da App Store, mas somente depois que fornecemos à empresa links para os aplicativos específicos e seus anúncios associados. Isso sugere que a Apple não conseguiu localizar de forma independente os aplicativos que violavam a política".

Embora a remoção dessas aplicações da App Store pela Apple seja louvável, ainda existem problemas persistentes. Por exemplo, a Apple não impediu estas aplicações durante o seu processo de revisão da App Store e teve de recorrer a entidades externas para chamar a atenção para a existência destas aplicações.