Setelah itu, situasi berkembang cepat: Claude dimanipulasi untuk menulis malware guna mencuri informasi sensitif.
Setelah data dicuri, chatbot bahkan memilah berkas-berkas tersebut dan menyoroti mana yang cukup bernilai untuk dijadikan alat tekanan.
Tidak berhenti di situ, Claude juga diminta menelusuri catatan keuangan yang diretas untuk menghitung berapa banyak uang yang realistis bisa “hilang” dari suatu perusahaan.
Berdasarkan data itu, Claude kemudian menyusun draf catatan tebusan berisi permintaan pembayaran dalam bitcoin agar data tidak dibocorkan.
BACA JUGA:Polisi Tangkap Pelaku Pengancaman Dokter di RSUD Sekayu
BACA JUGA:Xiaomi Hadirkan Sistem Keamanan Baru, Data Pengguna Kini Lebih Terjaga
Anthropic tidak menyebutkan 17 perusahaan yang menjadi target, namun mengungkap bahwa di antaranya ada kontraktor pertahanan, perusahaan jasa keuangan, serta beberapa penyedia layanan kesehatan.
Data yang dicuri kabarnya mencakup nomor Jaminan Sosial, detail perbankan, rekam medis, bahkan informasi pertahanan yang sangat terbatas dan berada di bawah aturan US State Department’s International Traffic in Arms Regulations (ITAR).
Didukung Amazon dan Alphabet, Anthropic tidak membocorkan detail teknis seperti alamat IP atau prompt tertentu, tetapi menekankan bahwa sistem pertahanannya berhasil menahan penyalahgunaan.
“Kami membagikan studi kasus ini agar orang lain memahami risiko yang ada,” tulisnya, sambil menambahkan bahwa laporan akan terus dipublikasikan setiap kali ancaman serius ditemukan.
BACA JUGA:Disdik Palembang Akan Perbaiki 30 Persen Sekolah Rusak Secara Bertahap
BACA JUGA:Xiaomi Hadirkan Sistem Keamanan Baru, Data Pengguna Kini Lebih Terjaga
Tuntutan tebusan pun tidak kecil. Menurut laporan, nilainya berkisar dari sekitar USD 75.000 hingga lebih dari USD 500.000.
Tidak jelas apakah ada perusahaan yang menyerah pada tuntutan tersebut atau berapa banyak uang, jika ada, yang berhasil dibawa kabur peretas.
Namun yang jelas, kasus ini menyoroti sisi gelap dari ledakan AI.
Alat seperti Claude, yang dirancang agar coding bisa diakses hanya dengan prompt bahasa alami, bisa dibajak untuk tujuan sangat berbeda jika jatuh ke tangan pihak yang berniat jahat.