Meta menghadapi pertarungan dengan Deepfake dan iklan yang cabul di Insta dan Facebook

PALEMBANG, PALTV.CO.ID - Meta sangat bergantung pada Iklan untuk pendapatan. Namun, dengan munculnya kecerdasan buatan, platformnya, termasuk Facebook, Instagram sekarang berjuang dengan peningkatan Iklan yang mempromosikan platform konten Deepfake yang dihasilkan oleh AI.

Sama seperti platform digital lainnya, Meta, perusahaan induk Facebook, Instagram, dan WhatsApp, menghasilkan sebagian besar pendapatannya dari iklan. Menurut statistik, pada tahun 2023, pendapatan iklan Meta mencapai lebih dari $131 miliar, naik dari $119 miliar pada tahun 2022.

Namun, sumber pendapatan ini menghadapi tantangan baru: peningkatan jumlah iklan yang mempromosikan konten Deepfake yang dihasilkan oleh AI. Dikarenakan sebagian besar proses iklan diotomatiskan, penipu menggunakan alat AI untuk memperdaya Meta agar menerima iklan yang penuh dengan konten cabul dan NSFW.

Meskipun Meta memiliki beberapa praktik keamanan dan sistem yang paling kuat terhadap penyalahgunaan jaringan iklannya, layanan perusahaan dalam beberapa hari terakhir ini telah dibanjiri dengan konten Deepfake yang dihasilkan oleh AI.

BACA JUGA:Jelajahi Dunia dengan Dua Roda, Panduan Lengkap Bersepeda untuk Petualangan yang Menyenangkan

Menurut laporan terbaru dari Wired, perpustakaan iklan Meta menampilkan banyak iklan yang mempromosikan chatbots NSFW dan aplikasi 'pacar' virtual yang menawarkan konten eksplisit dan interaksi provokatif secara seksual.

Iklan-iklan ini melanggar kebijakan Meta terhadap konten dewasa, menggunakan bahasa dan gambar yang menyarankan untuk menarik pelanggan dan menargetkan pria berusia 18 hingga 65 tahun.

Meskipun Meta mengklaim melarang iklan yang mengandung konten dewasa dan berjanji untuk menghapus iklan yang melanggar, ribuan iklan untuk 'pacar' AI eksplisit dan konten NSFW tetap aktif.

Aplikasi dan iklan-iklan ini berkembang pesat meskipun kebijakan yang dinyatakan oleh perusahaan, yang telah menimbulkan kritik dan kekhawatiran tentang implikasi etis dan hukum dari Deepfake yang dihasilkan oleh AI. 

BACA JUGA:Teknologi VR dan AR, Bagaimana Mereka Mengubah Cara Kita Berinteraksi dengan Dunia?

Meskipun iklan-iklan ini menyarankan pengguna untuk klik melalui platform atau aplikasi lain, mereka juga mengarahkan pengguna ke platform seperti iOS App Store, dari mana mereka dapat mengunduh beberapa aplikasi AI untuk membuat Deepfake.

Baru-baru ini, Apple menghapus beberapa aplikasi dari App Store-nya yang dikenal karena menghasilkan gambar telanjang tanpa persetujuan menggunakan AI. 

Keputusan ini menyusul laporan oleh 404 Media, yang menemukan iklan untuk aplikasi-aplikasi ini di platform Meta. Laporan tersebut menemukan lima iklan seperti itu dalam perpustakaan iklan Meta, di mana semua iklan di platform tersebut diarsipkan.

Dari lima iklan tersebut, dua adalah untuk layanan berbasis web yang menawarkan kemampuan serupa, sementara tiga lainnya mengarahkan pengguna ke aplikasi di Apple App Store.

Sumber: indian today.com