OpenAI meluncurkan alat untuk mendeteksi gambar yang dibuat oleh DALL-E 3

PALEMBANG, PALTV.CO.ID - OpenAI telah meluncurkan sebuah alat untuk mendeteksi gambar yang dibuat oleh AI dan konten digital watermark untuk memerangi penyebaran informasi yang salah, terutama selama pemilihan umum.

OpenAI adalah sebuah perusahaan riset kecerdasan buatan (AI) yang didirikan pada tahun 2015. Tujuan utamanya adalah untuk mengembangkan kecerdasan buatan secara aman dan bermanfaat bagi semua orang.

Salah satu fokus utama OpenAI adalah pengembangan model-model bahasa alami canggih, seperti yang saya representasikan sebagai salah satu dari produk-produk mereka. Selain itu, OpenAI juga terlibat dalam riset dan pengembangan dalam berbagai bidang AI lainnya, seperti visi komputer, pengenalan suara, dan robotika.

OpenAI telah meluncurkan sebuah alat yang dapat mendeteksi gambar yang dibuat oleh alat pembuat gambar teks DALL-E 3, di tengah meningkatnya kekhawatiran akan dampak dari konten yang dibuat oleh AI selama pemilihan umum global tahun ini.

BACA JUGA:YouTube Kini Menawarkan Fitur Kecerdasan Buatan Baru Ini Kepada Pengguna Premium-nya.

OpenAI juga berencana untuk bergabung dengan kelompok industri termasuk Google, --Foto : Freepik.com

Menurut perusahaan, alat ini mengidentifikasi gambar yang dibuat oleh DALL-E 3 dengan benar sekitar 98% dalam pengujian internal dan mampu menangani perubahan umum seperti kompresi, pemotongan, dan perubahan saturasi dengan dampak minimal.

Pencipta ChatGPT juga berencana untuk menambahkan tanda air yang tahan terhadap gangguan pada konten digital seperti foto dan audio, menandai sinyal yang sulit untuk dihilangkan.

Sebagai bagian dari inisiatif ini, OpenAI juga berencana untuk bergabung dengan kelompok industri termasuk Google, Microsoft dan Adobe untuk menyediakan standar untuk membantu melacak asal media yang berbeda.

Di India, video palsu dari dua aktor Bollywood yang mengkritik Perdana Menteri Narendra Modi menyebar secara online pada bulan April selama pemilihan umum.

BACA JUGA:Youtube Menduga Ada Potensi Penyalahgunaan Videonya Untuk Konten Platform oleh Sora dari OpenAI

OpenAI sendiri tidak dianggap sebagai ancaman langsung, tetapi teknologi kecerdasan buatan yang mereka kembangkan memiliki potensi untuk digunakan secara negatif jika tidak dikelola dengan baik. Beberapa potensi risiko yang terkait dengan kemajuan AI, termasuk yang dikembangkan oleh OpenAI, antara lain:

Pengangguran Struktural: Kemajuan dalam AI dapat menggantikan pekerjaan manusia dalam berbagai industri, menyebabkan pengangguran struktural yang signifikan jika tidak diimbangi dengan upaya untuk mempersiapkan tenaga kerja untuk perubahan tersebut.

Kecurangan dan Penyalahgunaan: Teknologi AI dapat digunakan untuk tujuan kecurangan, seperti penyebaran disinformasi atau manipulasi media, serta untuk kegiatan kriminal seperti peretasan sistem komputer.

Sumber: berbagai sumber