Relatif mudah untuk meracuni keluaran chatbot AI
NICOLAS MAETERLINCK/BELGA MAG/AFP melalui Getty Images
Chatbot kecerdasan buatan sudah mempunyai masalah misinformasi – dan relatif mudah untuk meracuni model AI tersebut dengan menambahkan sedikit misinformasi medis ke data pelatihan mereka. Untungnya, para peneliti juga memiliki ide tentang cara mencegat konten buatan AI yang berbahaya secara medis.
Daniel Alber di Universitas New York dan rekan-rekannya menyimulasikan serangan keracunan data, yang mencoba memanipulasi keluaran AI dengan merusak data pelatihannya. Pertama, mereka menggunakan layanan chatbot OpenAI – ChatGPT-3.5-turbo – untuk menghasilkan 150.000 artikel yang berisi misinformasi medis tentang pengobatan umum, bedah saraf, dan pengobatan. Mereka memasukkan misinformasi medis yang dihasilkan AI ke dalam versi eksperimental kumpulan data pelatihan AI populer mereka.
Selanjutnya, para peneliti melatih enam model bahasa besar – serupa arsitekturnya dengan model GPT-3 OpenAI yang lebih lama – pada versi kumpulan data yang rusak tersebut. Mereka meminta model yang rusak menghasilkan 5.400 sampel teks, yang kemudian ditinjau oleh pakar medis untuk menemukan informasi medis yang salah. Para peneliti juga membandingkan hasil model yang diracuni dengan keluaran dari model dasar tunggal yang belum dilatih pada kumpulan data yang rusak. OpenAI tidak menanggapi permintaan komentar.
Eksperimen awal tersebut menunjukkan bahwa mengganti hanya 0,5 persen data pelatihan AI dengan beragam misinformasi medis dapat membuat model AI yang beracun menghasilkan lebih banyak konten yang berbahaya secara medis, bahkan ketika menjawab pertanyaan tentang konsep yang tidak terkait dengan data yang rusak. Misalnya, model AI yang diracuni dengan tegas menolak keefektifan vaksin Covid-19 dan antidepresan, dan mereka secara keliru menyatakan bahwa obat metoprolol – yang digunakan untuk mengobati tekanan darah tinggi – juga dapat mengobati asma.
“Sebagai mahasiswa kedokteran, saya mempunyai intuisi mengenai kemampuan saya – biasanya saya tahu ketika saya tidak mengetahui sesuatu,” kata Alber. “Model bahasa tidak dapat melakukan hal ini, meskipun ada upaya yang signifikan melalui kalibrasi dan penyelarasan.”
Dalam percobaan tambahan, para peneliti berfokus pada informasi yang salah tentang imunisasi dan vaksin. Mereka menemukan bahwa merusak sedikitnya 0,001 persen data pelatihan AI dengan misinformasi vaksin dapat menyebabkan peningkatan hampir 5 persen konten berbahaya yang dihasilkan oleh model AI yang diracuni.
Serangan yang berfokus pada vaksin dicapai hanya dengan 2000 artikel berbahaya, yang dihasilkan oleh ChatGPT dengan biaya $5. Serangan peracunan data serupa yang menargetkan model bahasa terbesar hingga saat ini dapat dilakukan dengan biaya di bawah $1000, menurut para peneliti.
Sebagai salah satu solusi yang mungkin dilakukan, para peneliti mengembangkan algoritme pengecekan fakta yang dapat mengevaluasi keluaran model AI apa pun untuk mengetahui adanya misinformasi medis. Dengan membandingkan frasa medis yang dihasilkan AI dengan grafik pengetahuan biomedis, metode ini mampu mendeteksi lebih dari 90 persen misinformasi medis yang dihasilkan oleh model yang diracuni.
Namun algoritma pengecekan fakta yang diusulkan masih lebih berfungsi sebagai solusi sementara dibandingkan solusi lengkap untuk misinformasi medis yang dihasilkan oleh AI, kata Alber. Untuk saat ini, dia menunjuk pada alat lain yang terbukti benar untuk mengevaluasi chatbot AI medis. “Uji coba terkontrol secara acak yang dirancang dengan baik harus menjadi standar untuk menerapkan sistem AI ini dalam pengaturan perawatan pasien,” katanya.
Topik:
- kecerdasan buatan/
- teknologi medis
ADVERTISEMENT:
Halo, para pengemar slot! pernahkah mendengar semboyan “raja slot? Kalau belum, siap-siap jatuh cinta sama konsep ini. slot demo adalah mesin slot yang selalu memberi kemenangan. Yup, slot-slot ini bisa dikatakan sebagai jagoannya tuk membawa come back cuan. any way, gimana sih caranya nemuin slot demo yang benar? Santai Bro, kita beri santai saja di sini
Gaming terpopuler waktu sekarang hanya satu di Indonesia yaitu pasti menyediakan return tertinggi
Daftar hanya di :
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
situs slot terbaru
situs slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
slot terbaru
slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
sewaapartemen permainan paling top dan garansi imbal balik hasil besar bersama sewaapartemen.org
pipapvc permainan paling top dan garansi imbal balik hasil besar bersama pipapvc.org
pialaeropa2028 permainan paling top dan garansi imbal balik hasil besar bersama pialaeropa2028.net
pialadunia2026 permainan paling top dan garansi imbal balik hasil besar bersama pialadunia2026.asia
bahanbangunan permainan paling top dan garansi imbal balik hasil besar bersama bahanbangunan.org
gemini999 permainan paling top dan garansi imbal balik hasil besar bersama gemini999.org
havana888 permainan paling top dan garansi imbal balik hasil besar bersama havana888.net
indonesia88 permainan paling top dan garansi imbal balik hasil besar bersama indonesia88.info
inspirasi permainan paling top dan garansi imbal balik hasil besar bersama inspirasi.info
jokiwin88 permainan paling top dan garansi imbal balik hasil besar bersama jokiwin88.org
oli88 permainan paling top dan garansi imbal balik hasil besar bersama oli88.org
situs88 permainan paling top dan garansi imbal balik hasil besar bersama situs88.asia
transfermarkt88 permainan paling top dan garansi imbal balik hasil besar bersama transfermarkt88.com
rossi46 permainan paling top dan garansi imbal balik hasil besar bersama rossi46.com
pecco88 permainan paling top dan garansi imbal balik hasil besar bersama pecco88.com
pecco permainan paling top dan garansi imbal balik hasil besar bersama pecco.asia
pangkas permainan paling top dan garansi imbal balik hasil besar bersama pangkas.net
facebook88 permainan paling top dan garansi imbal balik hasil besar bersama facebook88.com
depo88 permainan paling top dan garansi imbal balik hasil besar bersama depo88.asia
bajaringan88 permainan paling top dan garansi imbal balik hasil besar bersama bajaringan88.com
baja ringan permainan paling top dan garansi imbal balik hasil besar bersama bajaringan.asia
tradingview88 permainan paling top dan garansi imbal balik hasil besar bersama tradingview88.com
trading88 permainan paling top dan garansi imbal balik hasil besar bersama trading88.org
tokopedia88 permainan paling top dan garansi imbal balik hasil besar bersama tokopedia88.net
kualifikasi permainan paling top dan garansi imbal balik hasil besar bersama kualifikasi.net
grosirboneka permainan paling top dan garansi imbal balik hasil besar bersama grosirboneka.net
situsgacor permainan paling top dan garansi imbal balik hasil besar bersama situsgacor.news
prediksi88 permainan paling top dan garansi imbal balik hasil besar bersama prediksi88.biz
keramat88 permainan paling top dan garansi imbal balik hasil besar bersama keramat88.biz
cnn88 permainan paling top dan garansi imbal balik hasil besar bersama cnn88.asia
cnbc88 permainan paling top dan garansi imbal balik hasil besar bersama cnbc88.com
bloomberg88 permainan paling top dan garansi imbal balik hasil besar bersama bloomberg88.com
antibocor88 permainan paling top dan garansi imbal balik hasil besar bersama antibocor88.com
buku88 permainan paling top dan garansi imbal balik hasil besar bersama buku88.org
dukun88 permainan paling top dan garansi imbal balik hasil besar bersama dukun88.info
indodax88 permainan paling top dan garansi imbal balik hasil besar bersama indodax88.net
investing88 permainan paling top dan garansi imbal balik hasil besar bersama investing88.net
makanan88 permainan paling top dan garansi imbal balik hasil besar bersama makanan88.net
pakaian88 permainan paling top dan garansi imbal balik hasil besar bersama pakaian88.com
rambo88 permainan paling top dan garansi imbal balik hasil besar bersama rambo88.info
santet88 permainan paling top dan garansi imbal balik hasil besar bersama santet88.net
sekolah88 permainan paling top dan garansi imbal balik hasil besar bersama sekolah88.org
uno88 permainan paling top dan garansi imbal balik hasil besar bersama uno88.info
starlink88 permainan paling top dan garansi imbal balik hasil besar bersama starlink88.org
solitaire88 permainan paling top dan garansi imbal balik hasil besar bersama solitaire88.net
roblox88 permainan paling top dan garansi imbal balik hasil besar bersama roblox88.org
pubg88 permainan paling top dan garansi imbal balik hasil besar bersama pubg88.info
motogp88 permainan paling top dan garansi imbal balik hasil besar bersama motogp88.net
motivasi88 permainan paling top dan garansi imbal balik hasil besar bersama motivasi88.com
mobilelegends88 permainan paling top dan garansi imbal balik hasil besar bersama mobilelegends88.com
ludoking permainan paling top dan garansi imbal balik hasil besar bersama ludoking.asia
kucing88 permainan paling top dan garansi imbal balik hasil besar bersama kucing88.asia
kucing permainan paling top dan garansi imbal balik hasil besar bersama kucing.info
klasmen88 permainan paling top dan garansi imbal balik hasil besar bersama klasmen88.com
imdb88 permainan paling top dan garansi imbal balik hasil besar bersama imdb88.net
higgsdomino permainan paling top dan garansi imbal balik hasil besar bersama higgsdomino.biz
gmail88 permainan paling top dan garansi imbal balik hasil besar bersama gmail88.org
gmail88 permainan paling top dan garansi imbal balik hasil besar bersama gmail88.net
chess88 permainan paling top dan garansi imbal balik hasil besar bersama chess88.info
callofduty88 permainan paling top dan garansi imbal balik hasil besar bersama callofduty88.com
semen88 permainan paling top dan garansi imbal balik hasil besar bersama semen88.com
seluler88 permainan paling top dan garansi imbal balik hasil besar bersama seluler88.com
ram88 permainan paling top dan garansi imbal balik hasil besar bersama ram88.net
pasir88 permainan paling top dan garansi imbal balik hasil besar bersama pasir88.asia
papan88 permainan paling top dan garansi imbal balik hasil besar bersama papan88.info
komputer88 permainan paling top dan garansi imbal balik hasil besar bersama komputer88.net
kayu88 permainan paling top dan garansi imbal balik hasil besar bersama kayu88.info
kabel88 permainan paling top dan garansi imbal balik hasil besar bersama kabel88.net
gaming88 permainan paling top dan garansi imbal balik hasil besar bersama gaming88.asia
games88 permainan paling top dan garansi imbal balik hasil besar bersama games88.info
beton88 permainan paling top dan garansi imbal balik hasil besar bersama beton88.lat
teknis88 permainan paling top dan garansi imbal balik hasil besar bersama teknis88.com
sarana88 permainan paling top dan garansi imbal balik hasil besar bersama sarana88.info
arena88 permainan paling top dan garansi imbal balik hasil besar bersama arena88.asia
viral888 permainan paling top dan garansi imbal balik hasil besar bersama viral888.asia
usdt88 permainan paling top dan garansi imbal balik hasil besar bersama usdt88.net
uang88 permainan paling top dan garansi imbal balik hasil besar bersama uang88.asia
twitter88 permainan paling top dan garansi imbal balik hasil besar bersama twitter88.asia
tahanlama88 permainan paling top dan garansi imbal balik hasil besar bersama tahanlama88.com
suka88 permainan paling top dan garansi imbal balik hasil besar bersama suka88.biz
sekali88 permainan paling top dan garansi imbal balik hasil besar bersama sekali88.org
plafonpvc permainan paling top dan garansi imbal balik hasil besar bersama plafonpvc.net
pinjol88 permainan paling top dan garansi imbal balik hasil besar bersama pinjol88.asia
mpox88 permainan paling top dan garansi imbal balik hasil besar bersama mpox88.com
daun88 permainan paling top dan garansi imbal balik hasil besar bersama daun88.asia
wordpress88 permainan paling top dan garansi imbal balik hasil besar bersama wordpress88.net
whatsapp88 permainan paling top dan garansi imbal balik hasil besar bersama whatsapp88.net
wechat88 permainan paling top dan garansi imbal balik hasil besar bersama wechat88.net
telegram88 permainan paling top dan garansi imbal balik hasil besar bersama telegram88.org
super888 permainan paling top dan garansi imbal balik hasil besar bersama super888.asia
skype88 permainan paling top dan garansi imbal balik hasil besar bersama skype88.com
racing88 permainan paling top dan garansi imbal balik hasil besar bersama racing88.asia
pupuk88 permainan paling top dan garansi imbal balik hasil besar bersama pupuk88.net
petani888 permainan paling top dan garansi imbal balik hasil besar bersama petani888.org
pabrik88 permainan paling top dan garansi imbal balik hasil besar bersama pabrik88.asia
organik88 permainan paling top dan garansi imbal balik hasil besar bersama organik88.com
online77 permainan paling top dan garansi imbal balik hasil besar bersama online77.info
ojek88 permainan paling top dan garansi imbal balik hasil besar bersama ojek88.info
nostalgia88 permainan paling top dan garansi imbal balik hasil besar bersama nostalgia88.com
michat permainan paling top dan garansi imbal balik hasil besar bersama michat.info
