AI Mulai Belajar Berbohong, Merekayasa dan Mengancam Penciptanya

BACA JUGA:Kemenkum Sumsel dan Pemprov Sumsel Sinergi Percepat Pembentukan Posbankum dan Pelatihan Paralegal

Perilaku mencurigakan ini jauh melampaui “halusinasi” biasa atau kesalahan teknis sederhana.

Hobbhahn memastikan bahwa meski model-model ini kerap diuji, “yang kami dokumentasikan adalah kejadian nyata, bukan hasil rekayasa.”. Ini bukan karangan.”

“Ini bukan sekadar halusinasi. Ini adalah bentuk penipuan yang sangat strategis.”

Tantangan ini diperburuk oleh keterbatasan sumber daya penelitian.

Chen percaya bahwa dengan akses yang lebih besar, “peneliti dapat lebih akurat memahami dan mengendalikan potensi penipuan dalam model AI.”.”

BACA JUGA:1.508 ASN Ikuti Porprov Korpri Sumsel, Menuju Ajang Nasional Oktober 2025

BACA JUGA:Pendaftar SDN 137 Palembang Bertambah, Jalur Offline Masih Dibuka

Tidak Ada Aturan yang Memadai

Undang-undang AI di Uni Eropa lebih berfokus pada bagaimana manusia menggunakan AI, bukan mencegah AI itu sendiri berperilaku menyimpang.

Pemerintah federal di bawah Trump belum menunjukkan urgensi dalam mengatur AI, dan Kongres kemungkinan besar akan melarang inisiatif regulasi dari tingkat negara bagian.

para peneliti AI masih belum sepenuhnya memahami cara kerja ChatGPT ciptaan mereka sendiri.--Freepik.com

Goldstein percaya bahwa masalah ini akan semakin mencuat seiring dengan menyebarnya agen AI alat otonom yang mampu menjalankan tugas manusia yang kompleks.

Kecepatan yang luar biasa ini membuat waktu untuk pengujian dan perbaikan keselamatan menjadi sangat terbatas.

BACA JUGA:Pendaftar SDN 137 Palembang Bertambah, Jalur Offline Masih Dibuka

Sumber: tech explore