Mengapa saya merasakan AGI

Berikut adalah beberapa hal yang saya yakini tentang kecerdasan buatan:

Saya percaya bahwa selama beberapa tahun terakhir, sistem AI telah mulai melampaui manusia di sejumlah domain – matematika, pengkodean dan diagnosis medis, hanya untuk beberapa nama – dan bahwa mereka menjadi lebih baik setiap hari.

Saya percaya bahwa segera-mungkin pada tahun 2026 atau 2027, tetapi mungkin segera setelah tahun ini-satu atau lebih perusahaan AI akan mengklaim bahwa mereka telah menciptakan kecerdasan umum buatan, atau AGI, yang biasanya didefinisikan sebagai sesuatu seperti “sistem AI tujuan umum yang dapat melakukan hampir semua tugas kognitif yang dapat dilakukan manusia.”

Saya percaya bahwa ketika AGI diumumkan, akan ada perdebatan tentang definisi dan argumen tentang apakah itu dianggap atau tidak sebagai “nyata” AGI, tetapi ini sebagian besar tidak masalah, karena titik yang lebih luas-bahwa kita kehilangan monopoli kita pada kecerdasan tingkat manusia, dan beralih ke dunia dengan sistem AI yang sangat kuat di dalamnya-akan menjadi kenyataan.

Saya percaya bahwa selama dekade berikutnya, AI yang kuat akan menghasilkan triliunan dolar dalam nilai ekonomi dan memiringkan keseimbangan kekuatan politik dan militer terhadap negara -negara yang mengendalikannya – dan bahwa sebagian besar pemerintah dan perusahaan besar sudah melihat ini jelas, sebagaimana dibuktikan oleh sejumlah besar uang yang mereka habiskan untuk sampai ke sana terlebih dahulu.

Saya percaya bahwa kebanyakan orang dan institusi sama sekali tidak siap untuk sistem AI yang ada saat ini, apalagi yang lebih kuat, dan bahwa tidak ada rencana realistis di setiap tingkat pemerintahan untuk mengurangi risiko atau menangkap manfaat dari sistem ini.

Saya percaya bahwa skeptis AI yang mengeras – yang bersikeras bahwa kemajuannya adalah semua asap dan cermin, dan yang menganggap Agi sebagai fantasi delusi – tidak hanya salah pada jasa, tetapi memberi orang rasa aman yang salah.

Saya percaya bahwa apakah Anda berpikir AGI akan menjadi hebat atau mengerikan bagi kemanusiaan – dan jujur, mungkin terlalu dini untuk mengatakan – kedatangannya menimbulkan pertanyaan ekonomi, politik dan teknologi yang penting yang saat ini tidak memiliki jawaban.

Saya percaya bahwa waktu yang tepat untuk mulai mempersiapkan AGI adalah sekarang.

Ini semua mungkin terdengar gila. Tapi saya tidak sampai pada pandangan ini sebagai futuris bermata berbintang, seorang investor yang menghipnotis portofolio AI saya atau seorang pria yang mengambil terlalu banyak jamur ajaib dan menyaksikan “Terminator 2.”

Saya tiba di mereka sebagai jurnalis yang telah menghabiskan banyak waktu berbicara dengan para insinyur yang membangun sistem AI yang kuat, para investor mendanai dan para peneliti yang mempelajari efeknya. Dan saya mulai percaya bahwa apa yang terjadi di AI saat ini lebih besar dari yang dipahami kebanyakan orang.

Di San Francisco, tempat saya berbasis, gagasan AGI bukan pinggiran atau eksotis. Orang-orang di sini berbicara tentang “merasakan AGI,” dan membangun sistem AI yang lebih pintar dari manusia telah menjadi tujuan eksplisit dari beberapa perusahaan terbesar Silicon Valley. Setiap minggu, saya bertemu insinyur dan pengusaha yang bekerja pada AI yang memberi tahu saya bahwa perubahan-perubahan besar, perubahan yang mengguncang dunia, jenis transformasi yang belum pernah kita lihat sebelumnya-hanya sekitar sudut.

“Selama satu atau dua tahun terakhir, apa yang dulu disebut ‘jadwal pendek’ (berpikir bahwa AGI mungkin akan dibangun dekade ini) telah menjadi hampir-konsensus,” Miles Brundage, seorang peneliti kebijakan AI independen yang meninggalkan Openai tahun lalu, kepada saya baru-baru ini.

Di luar Bay Area, beberapa orang bahkan pernah mendengar tentang AGI, apalagi mulai merencanakannya. Dan di industri saya, jurnalis yang menganggap kemajuan AI dengan serius masih berisiko diejek sebagai penipu yang mudah tertipu atau shills industri.

Jujur, saya mendapatkan reaksinya. Meskipun kami sekarang memiliki sistem AI yang berkontribusi pada terobosan pemenang Hadiah Nobel, dan meskipun 400 juta orang seminggu menggunakan chatgpt, banyak AI yang ditemui orang dalam kehidupan sehari-hari mereka adalah gangguan. Saya bersimpati dengan orang -orang yang melihat AI Slop terpampang di seluruh umpan Facebook mereka, atau memiliki interaksi yang canggung dengan chatbot layanan pelanggan dan berpikir: Ini Apakah apa yang akan mengambil alih dunia?

Saya biasa mengejek ide itu juga. Tetapi saya mulai percaya bahwa saya salah. Beberapa hal telah meyakinkan saya untuk mengambil kemajuan AI lebih serius.

Orang dalam khawatir.

Hal yang paling membingungkan tentang industri AI saat ini adalah bahwa orang -orang yang paling dekat dengan teknologi – karyawan dan eksekutif laboratorium AI terkemuka – cenderung menjadi yang paling khawatir tentang seberapa cepat itu membaik.

Ini sangat tidak biasa. Kembali pada tahun 2010, ketika saya meliput kebangkitan media sosial, tidak ada orang di dalam Twitter, Foursquare atau Pinterest memperingatkan bahwa aplikasi mereka dapat menyebabkan kekacauan masyarakat. Mark Zuckerberg tidak menguji Facebook untuk menemukan bukti bahwa itu dapat digunakan untuk membuat bioweapon baru, atau melakukan serangan siber yang otonom.

Tetapi hari ini, orang-orang dengan informasi terbaik tentang kemajuan AI-orang-orang yang membangun AI yang kuat, yang memiliki akses ke sistem yang lebih maju daripada yang dilihat masyarakat umum-memberi tahu kita bahwa perubahan besar sudah dekat. Perusahaan -perusahaan AI terkemuka secara aktif mempersiapkan kedatangan AGI, dan mempelajari sifat -sifat yang berpotensi menakutkan dari model mereka, seperti apakah mereka mampu merencanakan dan penipuan, untuk mengantisipasi mereka menjadi lebih mampu dan otonom.

Sam Altman, kepala eksekutif Openai, telah menulis bahwa “sistem yang mulai menunjuk ke AGI akan terlihat.”

Demis Hassabis, kepala eksekutif Google Deepmind, mengatakan Agi mungkin “tiga hingga lima tahun lagi.”

Dario Amodei, kepala eksekutif antropik (yang tidak menyukai istilah AGI tetapi setuju dengan prinsip umum), mengatakan kepada saya bulan lalu bahwa dia yakin kami satu atau dua tahun dari memiliki “sejumlah besar sistem AI yang jauh lebih pintar daripada manusia di hampir semua hal.”

Mungkin kita harus mengabaikan prediksi ini. Lagi pula, eksekutif AI akan mendapat untung dari hype AGI yang meningkat, dan mungkin memiliki insentif untuk membesar -besarkan.

Tetapi banyak ahli independen – termasuk Geoffrey Hinton dan Yoshua Bengio, dua peneliti AI paling berpengaruh di dunia, dan Ben Buchanan, yang merupakan ahli AI top Biden – mengatakan hal serupa. Begitu juga sejumlah ekonom terkemuka lainnya, ahli matematika dan pejabat keamanan nasional.

Agar adil, beberapa ahli ragu bahwa AGI sudah dekat. Tetapi bahkan jika Anda mengabaikan semua orang yang bekerja di perusahaan AI, atau memiliki saham pribadi dalam hasilnya, masih ada cukup suara independen yang kredibel dengan jadwal AGI pendek sehingga kita harus menganggapnya serius.

Model AI terus menjadi lebih baik.

Bagi saya, sama persuasifnya dengan pendapat ahli adalah bukti bahwa sistem AI saat ini membaik dengan cepat, dengan cara yang cukup jelas bagi siapa saja yang menggunakannya.

Pada tahun 2022, ketika Openai merilis ChatGPT, model AI terkemuka berjuang dengan aritmatika dasar, sering gagal pada masalah penalaran yang kompleks dan sering “berhalusinasi,” atau membuat fakta yang tidak ada. Chatbots dari era itu dapat melakukan hal -hal yang mengesankan dengan dorongan yang tepat, tetapi Anda tidak akan pernah menggunakannya untuk sesuatu yang sangat penting.

Model AI hari ini jauh lebih baik. Sekarang, model khusus memasang skor tingkat peraih medali di Olimpiade Matematika Internasional, dan model tujuan umum telah menjadi sangat pandai dalam pemecahan masalah yang kompleks sehingga kami harus membuat tes baru yang lebih sulit untuk mengukur kemampuan mereka. Halusinasi dan kesalahan faktual masih terjadi, tetapi mereka lebih jarang pada model yang lebih baru. Dan banyak bisnis yang sekarang cukup mempercayai model AI untuk membangunnya menjadi fungsi inti yang menghadap pelanggan.

(The New York Times telah menggugat Openai dan mitranya, Microsoft, menuduh mereka melakukan pelanggaran hak cipta atas konten berita yang terkait dengan sistem AI. Openai dan Microsoft telah membantah klaim tersebut.)

Beberapa peningkatan adalah fungsi skala. Dalam AI, model yang lebih besar, dilatih menggunakan lebih banyak data dan daya pemrosesan, cenderung menghasilkan hasil yang lebih baik, dan model terkemuka saat ini secara signifikan lebih besar daripada pendahulunya.

Tetapi juga berasal dari terobosan yang telah dibuat oleh para peneliti AI dalam beberapa tahun terakhir – terutama, munculnya model “penalaran”, yang dibangun untuk mengambil langkah komputasi tambahan sebelum memberikan respons.

Model penalaran, yang meliputi O1 Openai dan Deepseek’s R1, dilatih untuk mengatasi masalah yang kompleks, dan dibangun menggunakan pembelajaran penguatan – sebuah teknik yang digunakan untuk mengajar AI untuk memainkan permainan papan pergi pada tingkat manusia super. Mereka tampaknya berhasil pada hal -hal yang tersandung model sebelumnya. ;

Ketika alat-alat ini membaik, mereka menjadi berguna untuk banyak jenis pekerjaan pengetahuan kerah putih. Rekan saya Ezra Klein baru -baru ini menulis bahwa output dari Deep Research ChatGPT, sebuah fitur premium yang menghasilkan brief analitik yang kompleks, adalah “setidaknya median” dari para peneliti manusia yang bekerja dengannya.

Saya juga menemukan banyak kegunaan untuk alat AI dalam pekerjaan saya. Saya tidak menggunakan AI untuk menulis kolom saya, tetapi saya menggunakannya untuk banyak hal lain – mempersiapkan wawancara, merangkum makalah penelitian, membangun aplikasi yang dipersonalisasi untuk membantu saya dengan tugas administratif. Tak satu pun dari ini mungkin beberapa tahun yang lalu. Dan saya merasa tidak masuk akal bahwa siapa pun yang menggunakan sistem ini secara teratur untuk pekerjaan serius dapat menyimpulkan bahwa mereka telah mencapai dataran tinggi.

Jika Anda benar -benar ingin memahami berapa jauh lebih baik AI baru -baru ini, bicaralah dengan seorang programmer. Setahun atau dua tahun yang lalu, alat pengkodean AI ada, tetapi lebih ditujukan untuk mempercepat coders manusia daripada menggantinya. Hari ini, insinyur perangkat lunak memberi tahu saya bahwa AI melakukan sebagian besar pengkodean yang sebenarnya untuk mereka, dan bahwa mereka semakin merasa bahwa tugas mereka adalah mengawasi sistem AI.

Jared Friedman, seorang mitra di Y Combinator, akselerator start-up, baru-baru ini mengatakan seperempat dari kumpulan start-up akselerator saat ini menggunakan AI untuk menulis hampir semua kode mereka.

“Setahun yang lalu, mereka akan membangun produk mereka dari awal – tetapi sekarang 95 persen dari itu dibangun oleh AI,” katanya.

Overpeparing lebih baik daripada yang kurang diperbaiki.

Dalam semangat kerendahan hati epistemik, saya harus mengatakan bahwa saya, dan banyak lainnya, bisa salah dengan jadwal kita.

Mungkin AI Progress akan mencapai hambatan yang tidak kami harapkan – kekurangan energi yang mencegah perusahaan AI membangun pusat data yang lebih besar, atau akses terbatas ke chip kuat yang digunakan untuk melatih model AI. Mungkin arsitektur model dan teknik pelatihan hari ini tidak dapat membawa kita sampai ke AGI, dan lebih banyak terobosan diperlukan.

Tetapi bahkan jika Agi tiba satu dekade lebih lambat dari yang saya harapkan – pada tahun 2036, bukan tahun 2026 – saya percaya kita harus mulai mempersiapkannya sekarang.

Sebagian besar saran yang saya dengar tentang bagaimana institusi harus mempersiapkan AGI bermuara pada hal-hal yang harus kita lakukan: memodernisasi infrastruktur energi kita, mengeraskan pertahanan keamanan siber kita, mempercepat pipa persetujuan untuk narkoba yang dirancang AI, memprioritaskan peraturan untuk mencegah kerusakan AI yang paling serius. Ini semua adalah ide yang masuk akal, dengan atau tanpa AGI

Beberapa pemimpin teknologi khawatir bahwa kekhawatiran prematur tentang AGI akan menyebabkan kita mengatur AI terlalu agresif. Tetapi administrasi Trump telah mengisyaratkan bahwa ia ingin mempercepat pengembangan AI, tidak memperlambatnya. Dan cukup uang yang dihabiskan untuk menciptakan generasi model AI berikutnya – ratusan miliar dolar, dengan lebih banyak di jalan – bahwa tampaknya tidak mungkin bahwa perusahaan AI terkemuka akan memompa rem secara sukarela.

Saya juga tidak khawatir tentang orang yang terlalu mempersiapkan AGI. Risiko yang lebih besar, saya pikir, adalah bahwa kebanyakan orang tidak akan menyadari bahwa AI yang kuat ada di sini sampai menatap wajah mereka – menghilangkan pekerjaan mereka, menjerat mereka dalam penipuan, menyakiti mereka atau seseorang yang mereka cintai. Ini, kira -kira, apa yang terjadi selama era media sosial, ketika kami gagal mengenali risiko alat seperti Facebook dan Twitter sampai mereka terlalu besar dan mengakar untuk berubah.

Itu sebabnya saya percaya dalam menganggap kemungkinan AGI dengan serius sekarang, bahkan jika kita tidak tahu persis kapan itu akan tiba atau tepatnya bentuk apa yang diperlukan.

Jika kita menyangkal – atau jika kita sama sekali tidak memperhatikan – kita bisa kehilangan kesempatan untuk membentuk teknologi ini ketika itu paling penting.