Microsoft Kenalkan Fitur Perbaiki Konten AI yang Tidak Akurat
Microsoft Kenalkan Fitur Perbaiki Konten AI yang Tidak Akurat--Freepik.com
Ini terjadi karena model bahasa ini bekerja dengan memprediksi kata berikutnya dalam sebuah urutan berdasarkan pola yang dipelajari dari dataset yang luas.
BACA JUGA:SMA Negeri 2 Palembang Melaju ke Semifinal 3x3 Basketball Piala Pangdam II Sriwijaya
Karena model AI tidak dapat berpikir secara independen dan bergantung pada data yang mereka latih.
Mereka tidak memiliki pemahaman inheren tentang fakta dan mungkin menghasilkan respons yang terdengar akurat tetapi tidak memiliki dasar kebenaran.
Untuk mengatasi masalah halusinasi dan misinformasi yang dapat dihasilkan, Microsoft memperkenalkan fitur Correction.
Fitur ini mengatasi halusinasi AI dengan model klasifikasi yang menandai potongan teks yang mungkin salah atau dibuat-buat oleh AI.
BACA JUGA:Gampang Banget! Begini Cara Edit Dokumen PDF di HP Android
BACA JUGA:Kampung Perikanan Budidaya Patin Banyuasin Meningkatkan Ekonomi dan Gizi Masyarakat
Jika halusinasi terdeteksi, model kedua, yang memanfaatkan model bahasa kecil dan besar, berupaya memperbaiki kesalahan ini dengan menyelaraskan teks dengan informasi yang diverifikasi, yang dikenal sebagai “dokumen grounding.”
Alat Correction baru dari Microsoft didukung oleh proses baru yang menggunakan model bahasa kecil dan besar untuk menyelaraskan output dengan dokumen grounding.
“Kami berharap fitur baru ini mendukung para pengembang dan pengguna AI generatif di bidang seperti kedokteran, di mana pengembang harus memastikan akurasi respons,” jelas juru bicara Microsoft dalam sebuah wawancara dengan TechCrunch.
Microsoft akan memungkinkan perusahaan untuk mengintegrasikan alat koreksi barunya dengan model AI penghasil teks apa pun, termasuk Llama dari Meta dan GPT-4 dari OpenAI.
BACA JUGA:Kemenkumham Sumsel Sosialisasi M-Paspor Kepada Masyarakat Kabupaten Ogan Komering Ulu
Cek Berita dan Artikel yang lain di Google News
Sumber: indian today.com
- Share:
