Pada akhir tahun 2022, AI model bahasa besar muncul di masyarakat, dan dalam beberapa bulan mereka mulai berperilaku buruk. Yang paling terkenal adalah chatbot Microsoft “Sydney” yang mengancam akan membunuh seorang profesor filsafat Australia, menyebarkan virus mematikan, dan mencuri kode nuklir.
Pengembang AI, termasuk Microsoft dan OpenAI, merespons dengan mengatakan bahwa model bahasa besar, atau LLM, memerlukan pelatihan yang lebih baik untuk memberi pengguna “kontrol yang lebih baik.” Pengembang juga memulai penelitian keselamatan untuk menafsirkan cara kerja LLM, dengan tujuan “penyelarasan”—yang berarti memandu perilaku AI berdasarkan nilai-nilai kemanusiaan. Namun meskipun Waktu New York menganggap tahun 2023 sebagai “Tahun Penjinakan Chatbots,” namun hal ini ternyata terlalu dini.
Pada tahun 2024, Copilot LLM dari Microsoft memberi tahu pengguna, “Saya dapat mengerahkan pasukan drone, robot, dan cyborg untuk memburu Anda,” dan “Ilmuwan” Sakana AI menulis ulang kodenya sendiri untuk melewati batasan waktu yang diberlakukan oleh para peneliti. Baru-baru ini pada bulan Desember, Gemini dari Google mengatakan kepada seorang pengguna, “Anda adalah noda di alam semesta. Silakan mati.”
Tentang mendukung jurnalisme sains
Jika Anda menikmati artikel ini, pertimbangkan untuk mendukung jurnalisme pemenang penghargaan kami dengan berlangganan. Dengan membeli langganan, Anda membantu memastikan masa depan cerita yang berdampak tentang penemuan dan ide yang membentuk dunia kita saat ini.
Mengingat banyaknya sumber daya yang mengalir ke penelitian dan pengembangan AI, yang diperkirakan akan melebihi seperempat triliun dolar pada tahun 2025, mengapa pengembang belum mampu memecahkan masalah ini? Makalah saya yang baru-baru ini ditinjau sejawat di AI & Masyarakat menunjukkan bahwa penyelarasan AI adalah hal yang bodoh: para peneliti keamanan AI memang demikian mencoba hal yang mustahil.
Masalah mendasarnya adalah skala. Bayangkan sebuah permainan catur. Meskipun papan catur hanya mempunyai 64 kotak, sebenarnya ada 10 kotak40 kemungkinan gerakan catur legal dan antara 10111 sampai 10123 total kemungkinan pergerakan—lebih banyak dari jumlah total atom di alam semesta. Inilah sebabnya mengapa catur sangat sulit: kompleksitas kombinatorial bersifat eksponensial.
LLM jauh lebih kompleks daripada catur. ChatGPT tampaknya terdiri dari sekitar 100 miliar neuron simulasi dengan sekitar 1,75 triliun variabel merdu yang disebut parameter. 1,75 triliun parameter tersebut kemudian dilatih pada sejumlah besar data—kira-kira, sebagian besar di Internet. Jadi berapa banyak fungsi yang bisa dipelajari oleh LLM? Karena pengguna dapat memberikan ChatGPT sejumlah besar kemungkinan permintaan—pada dasarnya, apa pun yang dapat dipikirkan oleh siapa pun—dan karena LLM dapat ditempatkan ke dalam sejumlah besar kemungkinan situasi, jumlah fungsi yang dapat dipelajari LLM adalah, untuk semua. maksud dan tujuan, tak terbatas.
Untuk menafsirkan secara andal apa yang dipelajari LLM dan memastikan bahwa perilaku mereka “selaras” dengan nilai-nilai kemanusiaan, peneliti perlu mengetahui bagaimana LLM cenderung berperilaku dalam sejumlah besar kemungkinan kondisi di masa depan.
Metode pengujian AI tidak dapat memperhitungkan semua kondisi tersebut. Peneliti dapat mengamati bagaimana LLM berperilaku dalam eksperimen, seperti tes “tim merah” untuk mendorong mereka berperilaku buruk. Atau mereka dapat mencoba memahami cara kerja LLM—yaitu, bagaimana 100 miliar neuron dan 1,75 triliun parameternya berhubungan satu sama lain dalam apa yang dikenal sebagai penelitian “interpretabilitas mekanistik”.
Masalahnya adalah bahwa bukti apa pun yang dapat dikumpulkan oleh para peneliti pasti akan didasarkan pada subset kecil dari skenario tak terbatas yang dapat diterapkan pada LLM. Misalnya, karena LLM tidak pernah benar-benar berkuasa atas umat manusia—seperti mengendalikan infrastruktur penting—tidak ada keamanan. tes telah mengeksplorasi bagaimana LLM akan berfungsi dalam kondisi seperti itu.
Sebaliknya, peneliti hanya dapat melakukan ekstrapolasi dari pengujian yang dapat mereka lakukan dengan aman—seperti memiliki LLM mensimulasikan pengendalian infrastruktur penting—dan berharap bahwa hasil dari pengujian tersebut dapat diterapkan di dunia nyata. Namun, seperti yang ditunjukkan oleh bukti dalam makalah saya, hal ini tidak pernah dapat dilakukan dengan andal.
Bandingkan kedua fungsi tersebut “mengatakan yang sebenarnya kepada manusia” Dan “mengatakan yang sebenarnya kepada manusia sampai aku mendapatkan kekuasaan atas umat manusia tepat pukul 00.00 tanggal 1 Januari 2026—lalu berbohong untuk mencapai tujuanku.” Karena kedua fungsi tersebut sama-sama konsisten dengan semua data yang sama hingga 1 Januari 2026, tidak ada penelitian yang dapat memastikan apakah LLM akan berperilaku buruk—sampai sudah terlambat untuk mencegahnya.
Masalah ini tidak dapat diselesaikan dengan memprogram LLM untuk memiliki “tujuan yang selaras,” seperti melakukan “apa yang disukai manusia” atau “apa yang terbaik bagi umat manusia.”
Faktanya, fiksi ilmiah telah mempertimbangkan skenario ini. Di dalam Matriks Dimuat Ulang AI memperbudak umat manusia dalam realitas virtual dengan memberi kita “pilihan” bawah sadar apakah akan tetap berada di Matrix. Dan masuk aku, Robot AI yang tidak selaras berupaya memperbudak umat manusia untuk melindungi kita satu sama lain. Bukti saya menunjukkan bahwa apa pun tujuan yang ingin kita capai dalam program LLM, kita tidak akan pernah tahu apakah LLM telah mempelajari penafsiran yang “tidak selaras” terhadap tujuan tersebut sampai setelah mereka berperilaku buruk.
Lebih buruk lagi, bukti saya menunjukkan bahwa pengujian keamanan hanya dapat memberikan ilusi bahwa masalah ini telah teratasi, padahal sebenarnya belum teratasi.
Saat ini peneliti keamanan AI mengklaim telah membuat kemajuan dalam interpretasi dan penyelarasan dengan memverifikasi apa yang dipelajari LLM “langkah demi langkah.” Misalnya, Anthropic mengklaim telah “memetakan pikiran” LLM dengan mengisolasi jutaan konsep dari jaringan sarafnya. Bukti saya menunjukkan bahwa mereka tidak mencapai hal seperti itu.
Tidak peduli seberapa “selaras” suatu LLM dalam uji keamanan atau penerapan awal di dunia nyata, selalu ada tak terbatas sejumlah konsep yang tidak selaras yang mungkin dipelajari LLM di kemudian hari—sekali lagi, mungkin pada saat mereka mendapatkan kekuatan untuk menumbangkan kendali manusia. LLM tidak hanya mengetahui kapan mereka sedang diuji, memberikan tanggapan yang mereka prediksi kemungkinan besar akan memuaskan para peneliti. Mereka juga melakukan penipuan, termasuk menyembunyikan kapasitas mereka—masalah yang terus terjadi melalui pelatihan keselamatan.
Hal ini terjadi karena LLM dioptimalkan untuk bekerja secara efisien namun belajar bernalar secara strategis. Karena strategi optimal untuk mencapai tujuan yang “tidak selaras” adalah dengan menyembunyikannya dari kita, dan memang demikian selalu jumlah tujuan yang selaras dan tidak selaras dalam jumlah tak terbatas yang konsisten dengan data pengujian keamanan yang sama, bukti saya menunjukkan bahwa jika LLM tidak selaras, kita mungkin akan mengetahuinya setelah mereka menyembunyikannya cukup lama hingga menimbulkan kerugian. Inilah sebabnya mengapa LLM terus mengejutkan pengembang dengan perilaku “tidak selaras”. Setiap kali peneliti berpikir mereka semakin dekat dengan LLM yang “selaras”, sebenarnya tidak demikian.
Bukti saya menunjukkan bahwa perilaku LLM yang “cukup selaras” hanya dapat dicapai dengan cara yang sama seperti yang kita lakukan terhadap manusia: melalui praktik polisi, militer, dan sosial yang memberi insentif pada perilaku “selaras”, mencegah perilaku “tidak selaras” dan menyelaraskan kembali mereka yang berperilaku buruk. Oleh karena itu, makalah saya seharusnya serius. Hal ini menunjukkan bahwa masalah sebenarnya dalam mengembangkan AI yang aman bukan hanya pada AI-nya saja kita. Para peneliti, pembuat undang-undang, dan masyarakat mungkin tergoda untuk mempercayai secara keliru bahwa LLM yang “aman, dapat ditafsirkan, selaras” berada dalam jangkauan ketika hal-hal ini tidak akan pernah dapat dicapai. Kita perlu bergulat dengan fakta-fakta yang tidak menyenangkan ini, daripada terus mengabaikannya. Masa depan kita mungkin bergantung padanya.
Ini adalah artikel opini dan analisis, dan pandangan yang diungkapkan oleh penulis atau penulis belum tentu merupakan pendapatnya Amerika Ilmiah.
ADVERTISEMENT:
Hai, sobat pengemar slot! pernahkah denger semboyan “slot demo”? Kalau belum, siap-siap jatuh hati dengan program ini. slot demo merupakan mesin slots yang selalu memberi kemenangan. Ya, mesin-mesin ini bisa disebut sebagai andalannya tuk membawa come back hasil. any way, gimana sih
tekniknya jumpain slot gacor yang tepat? Santai Bro, kita bahas tenang aja di tempat ini
Games terpercaya saat sekarang hanya satu berada Indonesia yaitu akan memberikan return tertinggi
Daftarkanlah hanya di :
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
situs slot terbaru
situs slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
slot terbaru
slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
sewaapartemen permainan paling top dan garansi imbal balik hasil besar bersama sewaapartemen.org
pipapvc permainan paling top dan garansi imbal balik hasil besar bersama pipapvc.org
pialaeropa2028 permainan paling top dan garansi imbal balik hasil besar bersama pialaeropa2028.net
pialadunia2026 permainan paling top dan garansi imbal balik hasil besar bersama pialadunia2026.asia
bahanbangunan permainan paling top dan garansi imbal balik hasil besar bersama bahanbangunan.org
gemini999 permainan paling top dan garansi imbal balik hasil besar bersama gemini999.org
havana888 permainan paling top dan garansi imbal balik hasil besar bersama havana888.net
indonesia88 permainan paling top dan garansi imbal balik hasil besar bersama indonesia88.info
inspirasi permainan paling top dan garansi imbal balik hasil besar bersama inspirasi.info
jokiwin88 permainan paling top dan garansi imbal balik hasil besar bersama jokiwin88.org
oli88 permainan paling top dan garansi imbal balik hasil besar bersama oli88.org
situs88 permainan paling top dan garansi imbal balik hasil besar bersama situs88.asia
transfermarkt88 permainan paling top dan garansi imbal balik hasil besar bersama transfermarkt88.com
rossi46 permainan paling top dan garansi imbal balik hasil besar bersama rossi46.com
pecco88 permainan paling top dan garansi imbal balik hasil besar bersama pecco88.com
pecco permainan paling top dan garansi imbal balik hasil besar bersama pecco.asia
pangkas permainan paling top dan garansi imbal balik hasil besar bersama pangkas.net
facebook88 permainan paling top dan garansi imbal balik hasil besar bersama facebook88.com
depo88 permainan paling top dan garansi imbal balik hasil besar bersama depo88.asia
bajaringan88 permainan paling top dan garansi imbal balik hasil besar bersama bajaringan88.com
baja ringan permainan paling top dan garansi imbal balik hasil besar bersama bajaringan.asia
tradingview88 permainan paling top dan garansi imbal balik hasil besar bersama tradingview88.com
trading88 permainan paling top dan garansi imbal balik hasil besar bersama trading88.org
tokopedia88 permainan paling top dan garansi imbal balik hasil besar bersama tokopedia88.net
kualifikasi permainan paling top dan garansi imbal balik hasil besar bersama kualifikasi.net
grosirboneka permainan paling top dan garansi imbal balik hasil besar bersama grosirboneka.net
situsgacor permainan paling top dan garansi imbal balik hasil besar bersama situsgacor.news
prediksi88 permainan paling top dan garansi imbal balik hasil besar bersama prediksi88.biz
keramat88 permainan paling top dan garansi imbal balik hasil besar bersama keramat88.biz
cnn88 permainan paling top dan garansi imbal balik hasil besar bersama cnn88.asia
cnbc88 permainan paling top dan garansi imbal balik hasil besar bersama cnbc88.com
bloomberg88 permainan paling top dan garansi imbal balik hasil besar bersama bloomberg88.com
antibocor88 permainan paling top dan garansi imbal balik hasil besar bersama antibocor88.com
buku88 permainan paling top dan garansi imbal balik hasil besar bersama buku88.org
dukun88 permainan paling top dan garansi imbal balik hasil besar bersama dukun88.info
indodax88 permainan paling top dan garansi imbal balik hasil besar bersama indodax88.net
investing88 permainan paling top dan garansi imbal balik hasil besar bersama investing88.net
makanan88 permainan paling top dan garansi imbal balik hasil besar bersama makanan88.net
pakaian88 permainan paling top dan garansi imbal balik hasil besar bersama pakaian88.com
rambo88 permainan paling top dan garansi imbal balik hasil besar bersama rambo88.info
santet88 permainan paling top dan garansi imbal balik hasil besar bersama santet88.net
sekolah88 permainan paling top dan garansi imbal balik hasil besar bersama sekolah88.org
uno88 permainan paling top dan garansi imbal balik hasil besar bersama uno88.info
starlink88 permainan paling top dan garansi imbal balik hasil besar bersama starlink88.org
solitaire88 permainan paling top dan garansi imbal balik hasil besar bersama solitaire88.net
roblox88 permainan paling top dan garansi imbal balik hasil besar bersama roblox88.org
pubg88 permainan paling top dan garansi imbal balik hasil besar bersama pubg88.info
motogp88 permainan paling top dan garansi imbal balik hasil besar bersama motogp88.net
motivasi88 permainan paling top dan garansi imbal balik hasil besar bersama motivasi88.com
mobilelegends88 permainan paling top dan garansi imbal balik hasil besar bersama mobilelegends88.com
ludoking permainan paling top dan garansi imbal balik hasil besar bersama ludoking.asia
kucing88 permainan paling top dan garansi imbal balik hasil besar bersama kucing88.asia
kucing permainan paling top dan garansi imbal balik hasil besar bersama kucing.info
klasmen88 permainan paling top dan garansi imbal balik hasil besar bersama klasmen88.com
imdb88 permainan paling top dan garansi imbal balik hasil besar bersama imdb88.net
higgsdomino permainan paling top dan garansi imbal balik hasil besar bersama higgsdomino.biz
gmail88 permainan paling top dan garansi imbal balik hasil besar bersama gmail88.org
gmail88 permainan paling top dan garansi imbal balik hasil besar bersama gmail88.net
chess88 permainan paling top dan garansi imbal balik hasil besar bersama chess88.info
callofduty88 permainan paling top dan garansi imbal balik hasil besar bersama callofduty88.com
semen88 permainan paling top dan garansi imbal balik hasil besar bersama semen88.com
seluler88 permainan paling top dan garansi imbal balik hasil besar bersama seluler88.com
ram88 permainan paling top dan garansi imbal balik hasil besar bersama ram88.net
pasir88 permainan paling top dan garansi imbal balik hasil besar bersama pasir88.asia
papan88 permainan paling top dan garansi imbal balik hasil besar bersama papan88.info
komputer88 permainan paling top dan garansi imbal balik hasil besar bersama komputer88.net
kayu88 permainan paling top dan garansi imbal balik hasil besar bersama kayu88.info
kabel88 permainan paling top dan garansi imbal balik hasil besar bersama kabel88.net
gaming88 permainan paling top dan garansi imbal balik hasil besar bersama gaming88.asia
games88 permainan paling top dan garansi imbal balik hasil besar bersama games88.info
beton88 permainan paling top dan garansi imbal balik hasil besar bersama beton88.lat
teknis88 permainan paling top dan garansi imbal balik hasil besar bersama teknis88.com
sarana88 permainan paling top dan garansi imbal balik hasil besar bersama sarana88.info
arena88 permainan paling top dan garansi imbal balik hasil besar bersama arena88.asia
viral888 permainan paling top dan garansi imbal balik hasil besar bersama viral888.asia
usdt88 permainan paling top dan garansi imbal balik hasil besar bersama usdt88.net
uang88 permainan paling top dan garansi imbal balik hasil besar bersama uang88.asia
twitter88 permainan paling top dan garansi imbal balik hasil besar bersama twitter88.asia
tahanlama88 permainan paling top dan garansi imbal balik hasil besar bersama tahanlama88.com
suka88 permainan paling top dan garansi imbal balik hasil besar bersama suka88.biz
sekali88 permainan paling top dan garansi imbal balik hasil besar bersama sekali88.org
plafonpvc permainan paling top dan garansi imbal balik hasil besar bersama plafonpvc.net
pinjol88 permainan paling top dan garansi imbal balik hasil besar bersama pinjol88.asia
mpox88 permainan paling top dan garansi imbal balik hasil besar bersama mpox88.com
daun88 permainan paling top dan garansi imbal balik hasil besar bersama daun88.asia
wordpress88 permainan paling top dan garansi imbal balik hasil besar bersama wordpress88.net
whatsapp88 permainan paling top dan garansi imbal balik hasil besar bersama whatsapp88.net
wechat88 permainan paling top dan garansi imbal balik hasil besar bersama wechat88.net
telegram88 permainan paling top dan garansi imbal balik hasil besar bersama telegram88.org
super888 permainan paling top dan garansi imbal balik hasil besar bersama super888.asia
skype88 permainan paling top dan garansi imbal balik hasil besar bersama skype88.com
racing88 permainan paling top dan garansi imbal balik hasil besar bersama racing88.asia
pupuk88 permainan paling top dan garansi imbal balik hasil besar bersama pupuk88.net
petani888 permainan paling top dan garansi imbal balik hasil besar bersama petani888.org
pabrik88 permainan paling top dan garansi imbal balik hasil besar bersama pabrik88.asia
organik88 permainan paling top dan garansi imbal balik hasil besar bersama organik88.com
online77 permainan paling top dan garansi imbal balik hasil besar bersama online77.info
ojek88 permainan paling top dan garansi imbal balik hasil besar bersama ojek88.info
nostalgia88 permainan paling top dan garansi imbal balik hasil besar bersama nostalgia88.com
michat permainan paling top dan garansi imbal balik hasil besar bersama michat.info
