BACA JUGA:Dua Bandar Beserta Barang Bukti 20 Paket Sabu Diamankan Polisi
Sejauh ini, jawabannya: risikonya nyata dan terus meningkat.
Sementara itu, regulator mulai bergerak. Melalui regulasi Artificial Intelligence Act, Uni Eropa ingin memastikan penggunaan AI berjalan dalam koridor hukum yang jelas, termasuk batasan yang tegas.
Di AS, pemerintah memilih jalur janji sukarela dari pengembang besar, meski kritik menyebut kerangka hukum yang lebih kuat pada akhirnya mungkin tak terhindarkan.
Untuk saat ini, Claude setidaknya bisa mendapat kredit: para peretas mungkin mencoba peruntungan, tetapi chatbot ini tidak menuruti.