Perilaku mencurigakan ini jauh melampaui “halusinasi” biasa atau kesalahan teknis sederhana.
Hobbhahn memastikan bahwa meski model-model ini kerap diuji, “yang kami dokumentasikan adalah kejadian nyata, bukan hasil rekayasa.”. Ini bukan karangan.”
“Ini bukan sekadar halusinasi. Ini adalah bentuk penipuan yang sangat strategis.”
Tantangan ini diperburuk oleh keterbatasan sumber daya penelitian.
Chen percaya bahwa dengan akses yang lebih besar, “peneliti dapat lebih akurat memahami dan mengendalikan potensi penipuan dalam model AI.”.”
BACA JUGA:1.508 ASN Ikuti Porprov Korpri Sumsel, Menuju Ajang Nasional Oktober 2025
BACA JUGA:Pendaftar SDN 137 Palembang Bertambah, Jalur Offline Masih Dibuka
Tidak Ada Aturan yang Memadai
Undang-undang AI di Uni Eropa lebih berfokus pada bagaimana manusia menggunakan AI, bukan mencegah AI itu sendiri berperilaku menyimpang.
Pemerintah federal di bawah Trump belum menunjukkan urgensi dalam mengatur AI, dan Kongres kemungkinan besar akan melarang inisiatif regulasi dari tingkat negara bagian.
para peneliti AI masih belum sepenuhnya memahami cara kerja ChatGPT ciptaan mereka sendiri.--Freepik.com
Goldstein percaya bahwa masalah ini akan semakin mencuat seiring dengan menyebarnya agen AI alat otonom yang mampu menjalankan tugas manusia yang kompleks.
Kecepatan yang luar biasa ini membuat waktu untuk pengujian dan perbaikan keselamatan menjadi sangat terbatas.
BACA JUGA:Pendaftar SDN 137 Palembang Bertambah, Jalur Offline Masih Dibuka
BACA JUGA:Mercedes-Benz GLA 2025: Crossover Kompak Mewah yang Makin Modern dan Bertenaga
“Saat ini, kemampuan AI berkembang lebih cepat daripada pemahaman dan upaya pengamanannya,” aku Hobbhahn, “namun kita masih berada pada titik di mana arah ini bisa diubah.”