Jakarta (pilar.id) – Dalam upayanya untuk melindungi penggunanya dari penyebaran konten tidak senonoh yang dihasilkan oleh aplikasi ‘Nudify’, Meta telah mengajukan gugatan hukum terhadap entitas di balik aplikasi CrushAI. Aplikasi ini memungkinkan pengguna untuk membuat gambar telanjang atau gambar seksual yang tidak sesuai dengan persetujuan individu, menggunakan teknologi kecerdasan buatan (AI).
Meta, yang mengoperasikan platform seperti Facebook dan Instagram, menegaskan bahwa mereka memiliki kebijakan yang tegas terhadap gambar intim tanpa persetujuan—baik yang dihasilkan oleh manusia maupun AI. Aplikasi yang memungkinkan pembuatan gambar semacam ini melanggar pedoman tersebut, dan Meta mengambil langkah serius untuk menghentikan penyebaran aplikasi tersebut di platform mereka.
Langkah Hukum Terhadap CrushAI
Meta telah menggugat Joy Timeline HK Limited, perusahaan di balik aplikasi CrushAI, yang berbasis di Hong Kong. Langkah ini diambil setelah perusahaan berulang kali mencoba untuk melewati proses review iklan Meta dan terus mempromosikan aplikasi tersebut meskipun telah melanggar kebijakan yang ada.
“Tindakan hukum ini menunjukkan keseriusan kami dalam menangani penyalahgunaan seperti ini, dan komitmen kami untuk melindungi komunitas dari konten yang merugikan,” ujar pernyataan resmi dari Meta.
Langkah hukum ini juga mencerminkan tekad Meta untuk terus mengembangkan teknologi baru guna mendeteksi dan menghapus iklan yang mempromosikan aplikasi Nudify, serta bekerja sama dengan perusahaan teknologi lainnya untuk memastikan bahwa iklan tersebut tidak dapat diakses oleh pengguna.
Pencegahan di Seluruh Internet
Meta tidak hanya menghapus iklan dan akun yang mempromosikan aplikasi ini dari platform mereka, tetapi juga berbagi informasi URL yang melanggar dengan perusahaan teknologi lainnya melalui program Tech Coalition’s Lantern. Sejak program ini dimulai pada Maret 2025, lebih dari 3.800 URL telah dibagikan kepada perusahaan yang terlibat, guna mendeteksi dan menghentikan penyebaran aplikasi serupa di platform lain.
“Penyebaran aplikasi seperti ini di internet bukan hanya masalah di satu platform. Kami harus berkolaborasi dengan perusahaan teknologi lainnya untuk menanggulanginya secara menyeluruh,” tambah Meta.
Memperkuat Penegakan Hukum dan Deteksi Iklan
Meta menyadari bahwa para pelaku di balik aplikasi Nudify terus berinovasi untuk menghindari deteksi. Beberapa di antaranya menggunakan gambar yang tampaknya tidak berbahaya dalam iklan mereka untuk melewati deteksi, atau membuat nama domain baru setiap kali situs web mereka diblokir.
Untuk itu, Meta mengembangkan teknologi baru yang secara khusus dirancang untuk mengidentifikasi iklan semacam ini, meskipun iklan tersebut tidak menyertakan gambar telanjang. Selain itu, Meta bekerja sama dengan ahli eksternal dan tim khusus untuk memperluas daftar istilah keamanan yang dilatih dalam sistem mereka untuk mendeteksi iklan-iklan ini lebih cepat.
Mendukung Peraturan Efektif untuk Melawan Penyalahgunaan Konten Intim
Meta juga mendukung peraturan yang membantu melawan penyalahgunaan gambar intim di seluruh internet, baik yang dihasilkan oleh manusia maupun AI. Salah satu langkah yang didorong oleh Meta adalah penerapan U.S. TAKE IT DOWN Act, yang bertujuan memberikan perlindungan lebih bagi individu yang menjadi korban penyebaran konten tak senonoh di dunia maya.
Selain itu, Meta juga mendukung legislasi yang memberi kewenangan kepada orang tua untuk mengawasi unduhan aplikasi anak-anak, dengan tujuan mencegah mereka mengunduh aplikasi Nudify atau aplikasi sejenis lainnya dari App Store.
Dengan tindakan hukum ini dan langkah-langkah yang diambil untuk memerangi penyebaran aplikasi Nudify, Meta menunjukkan komitmennya untuk menjaga keselamatan pengguna di seluruh platform mereka. Upaya berkelanjutan ini merupakan bagian dari komitmen jangka panjang Meta untuk melawan penyebaran konten berbahaya dan melindungi privasi serta keamanan digital penggunanya. (ret/hdl)
