FX.co ★ Apple Menghapus Aplikasi AI dari Appstore yang Mempromosikan Pembuatan Gambar Bugil Non-konsensual

Apple Inc. telah menghapus beberapa aplikasi penghasil gambar berbasis AI yang diduga dipasarkan untuk menghasilkan gambar eksplisit yang tidak sah. Penyelidikan baru-baru ini oleh 404 Media menemukan bagaimana perusahaan tertentu mengeksploitasi iklan Instagram untuk mempromosikan aplikasi yang mampu membuat orang telanjang secara virtual tanpa persetujuan mereka.

Beberapa dari iklan ini mengarahkan pengguna ke Apple Store ke aplikasi yang dipasarkan sebagai "generator seni," yang dibuat khusus untuk membuat gambar eksplisit tanpa persetujuan. Aplikasi ini memiliki kemampuan seperti menukar wajah dalam konten dewasa dan menghapus pakaian dari foto secara digital. Investigasi ini tidak hanya mengungkap keberadaan aplikasi-aplikasi tersebut, tapi juga menggarisbawahi promosi mereka di platform periklanan yang banyak digunakan.

Awalnya, aplikasi-aplikasi ini diiklankan melalui Perpustakaan Iklan Meta di Instagram. Namun, setelah iklan-iklan ini diidentifikasi dan ditandai, Meta segera menghapusnya.

Awalnya, Apple tidak menanggapi pertanyaan dari 404 Media. Namun, setelah menerima informasi rinci seperti tautan langsung ke aplikasi dan iklannya, Apple bertindak cepat.

Menurut 404 Media, "Apple menghapus total tiga aplikasi dari App Store, tetapi hanya setelah kami memberikan tautan ke aplikasi tertentu dan iklan terkait kepada perusahaan. Hal ini menunjukkan bahwa Apple tidak dapat secara independen menemukan aplikasi yang melanggar kebijakan tersebut."

Meskipun penghapusan aplikasi-aplikasi ini dari App Store oleh Apple patut dipuji, masih ada beberapa masalah yang tersisa. Misalnya, Apple tidak mencegah aplikasi-aplikasi ini selama proses Peninjauan App Store dan harus bergantung pada entitas eksternal untuk menarik perhatian terhadap keberadaan aplikasi-aplikasi ini.