Apakah ChatGPT aman digunakan? Apa yang perlu Anda ketahui

OpenAI menerbitkan laporan tentang insiden tersebut dan mengatasi penyebab masalahnya. Hal ini tidak mencegah munculnya masalah baru di masa depan. Pada layanan online apa pun, terdapat risiko kebocoran yang tidak disengaja dan pelanggaran keamanan siber akibat meningkatnya jumlah peretas.

Masalah privasi

Dapat dibenarkan, potensi penyalahgunaan data merupakan masalah keamanan yang sah. FAQ ChatGPT OpenAI menyarankan Anda untuk tidak membagikan informasi sensitif dan memperingatkan pengguna bahwa perintah tidak dapat dihapus. FAQ yang sama menyatakan bahwa ChatGPT menyimpan percakapan yang ditinjau oleh OpenAI untuk tujuan pelatihan.

Kontribusi menyebarkan berita palsu dan misinformasi

Di dunia di mana misinformasi, disinformasi, dan berita palsu dapat menyebar dengan cepat secara online, beberapa orang khawatir bahwa ChatGPT dapat berkontribusi terhadap masalah ini. Tanggapan ChatGPT didasarkan pada informasi yang dilatihnya, sebagian besar bersumber dari internet.

Aplikasi kemudian membuat rangkaian kata yang cenderung mengikuti satu sama lain sebagai responsnya. Karena misinformasi dan disinformasi ada di internet, ruang lingkup ChatGPT untuk merespons dengan informasi yang salah juga ada. ChatGPT juga dapat digunakan untuk meniru identitas seseorang dan memanipulasi orang lain dalam prosesnya.

Potensi bias

Sekalipun informasinya benar, informasi tersebut mungkin menunjukkan bias politik atau bias lainnya. Seperti halnya model pembelajaran mesin lainnya, ChatGPT mencerminkan bias data pelatihannya. Jika data tersebut bias, maka keluarannya mungkin juga bias – yang berpotensi menimbulkan tanggapan yang tidak adil, diskriminatif, atau bahkan menyinggung.

BACA JUGA:Lebih dari 90.000 karyawan IT Kehilangan Pekerjaan Pada Tahun 2024

ChatGPT dilaporkan telah mengambil langkah-langkah untuk mengidentifikasi dan menghindari menjawab pertanyaan-pertanyaan bermuatan politis – namun perlu diwaspadai potensi bias saat menggunakan layanan ini.

Pencurian identitas dan pengumpulan informasi

Pelaku kejahatan dapat menggunakan ChatGPT untuk mengumpulkan informasi untuk tujuan berbahaya. Karena chatbot telah dilatih pada data dalam jumlah besar, chatbot mengetahui banyak informasi yang dapat membahayakan jika ditempatkan di tangan yang salah.

Misalnya, dalam satu contoh, ChatGPT diminta untuk mengungkapkan sistem TI apa yang digunakan bank tertentu. Mengumpulkan informasi dalam domain publik, chatbot mencantumkan berbagai sistem TI yang digunakan bank tersebut. Ini adalah contoh aktor jahat yang menggunakan ChatGPT untuk menentukan atau mengisolasi informasi yang dapat digunakan untuk tujuan jahat.

Untuk mengatasi masalah ini, OpenAI telah mengambil langkah-langkah untuk memastikan model bahasanya aman. Hal ini termasuk menetapkan kontrol akses yang ketat untuk mencegah orang memasuki sistemnya tanpa izin, serta menetapkan aturan etika untuk pengembangan dan penggunaan AI. Aturan tersebut mencakup komitmen terhadap penggunaan teknologi secara bertanggung jawab, serta transparansi dan keadilan.

Menipu ChatGPT untuk menulis kode berbahaya

Sumber: berbagai sumber