NEWS UPDATE
Badan-badan Federal Kurang Informasi Penting Tentang Beberapa Sistem AI Mereka yang Paling Berisiko
Top Stories

Badan-badan Federal Kurang Informasi Penting Tentang Beberapa Sistem AI Mereka yang Paling Berisiko

Badan-badan federal memperoleh lusinan algoritme AI yang dipatenkan untuk tugas-tugas yang dapat memengaruhi keselamatan fisik dan hak-hak sipil masyarakat tanpa memiliki akses ke informasi terperinci tentang cara kerja atau pelatihan sistem, menurut data yang baru dirilis.

Perlindungan Bea Cukai dan Perbatasan serta Administrasi Keamanan Transportasi tidak memiliki dokumentasi tentang kualitas data yang digunakan untuk membangun dan mengevaluasi algoritme yang memindai ancaman pada tubuh pelancong, menurut laporan inventaris AI tahun 2024 dari badan tersebut.

Administrasi Kesehatan Veteran (Veterans Health Administration) sedang dalam proses memperoleh sebuah algoritma dari sebuah perusahaan swasta yang diharapkan dapat memprediksi penyakit kronis di kalangan para veteran, namun badan tersebut mengatakan “tidak jelas bagaimana perusahaan tersebut memperoleh data” tentang catatan medis para veteran yang digunakan untuk melatih. modelnya.

Dan untuk lebih dari 100 algoritme yang dapat memengaruhi keselamatan dan hak masyarakat, lembaga yang menggunakan model tersebut tidak memiliki akses ke kode sumber yang menjelaskan cara kerjanya.

Ketika pemerintahan Trump yang akan datang bersiap untuk menghapus peraturan yang baru-baru ini diberlakukan mengenai pengadaan dan keamanan AI federal, data inventaris menunjukkan betapa pemerintah sangat bergantung pada perusahaan swasta untuk sistem AI yang paling berisiko.

“Saya sangat khawatir dengan sistem kepemilikan yang merebut kekuasaan demokrasi dari lembaga-lembaga yang mengelola dan memberikan manfaat dan layanan kepada masyarakat,” kata Varoon Mathur, yang hingga awal bulan ini menjabat sebagai penasihat senior AI di Gedung Putih yang bertanggung jawab mengoordinasikan AI. proses inventaris. “Kita harus bahu membahu dengan vendor proprietary. Seringkali hal itu bermanfaat, tetapi sering kali kita tidak tahu apa yang mereka lakukan. Dan jika kita tidak memiliki kendali atas data kita, bagaimana kita akan mengelola risiko?”

Studi internal dan investigasi luar telah menemukan masalah serius dengan algoritme berisiko tinggi beberapa lembaga federal, seperti model bias rasial yang digunakan IRS untuk menentukan pembayar pajak mana yang akan diaudit dan algoritme pencegahan bunuh diri VA yang memprioritaskan pria kulit putih dibandingkan kelompok lain.

Inventarisasi tahun 2024 memberikan gambaran paling rinci tentang bagaimana pemerintah federal menggunakan kecerdasan buatan dan apa yang diketahuinya tentang sistem tersebut. Untuk pertama kalinya sejak inventarisasi dimulai pada tahun 2022, lembaga-lembaga tersebut harus menjawab sejumlah pertanyaan tentang apakah mereka memiliki akses ke dokumentasi model atau kode sumber dan apakah mereka telah mengevaluasi risiko yang terkait dengan sistem AI mereka.

Dari 1.757 lembaga sistem AI yang dilaporkan menggunakannya sepanjang tahun, 227 di antaranya dianggap berdampak pada hak-hak sipil atau keselamatan fisik dan lebih dari separuh sistem dengan risiko tertinggi tersebut dikembangkan seluruhnya oleh vendor komersial. (Untuk 60 sistem berisiko tinggi, lembaga-lembaga tersebut tidak memberikan informasi tentang siapa yang membangunnya. Beberapa lembaga, termasuk Departemen Kehakiman, Departemen Pendidikan, dan Departemen Perhubungan belum mempublikasikan inventarisasi AI mereka, serta militer dan intelijen. lembaga tidak diwajibkan untuk melakukannya).

Setidaknya untuk 25 sistem yang berdampak pada keselamatan atau hak, lembaga-lembaga tersebut melaporkan bahwa “tidak ada dokumentasi mengenai pemeliharaan, komposisi, kualitas, atau tujuan penggunaan data pelatihan dan evaluasi.” Setidaknya 105 di antaranya, agensi mengatakan mereka tidak memiliki akses ke kode sumber. Agensi tidak menjawab pertanyaan dokumentasi untuk 51 alat atau pertanyaan kode sumber untuk 60 alat. Beberapa sistem berisiko tinggi masih dalam tahap pengembangan atau akuisisi.

Di bawah pemerintahan Biden, Kantor Manajemen dan Anggaran (OMB) mengeluarkan arahan baru kepada lembaga-lembaga yang mengharuskan mereka melakukan evaluasi menyeluruh terhadap sistem AI yang berisiko dan untuk memastikan bahwa kontrak dengan vendor AI memberikan akses ke informasi yang diperlukan tentang model tersebut, yang dapat mencakup pelatihan dokumentasi data atau kode itu sendiri.

Peraturan ini lebih ketat dibandingkan apa pun yang mungkin dihadapi oleh vendor AI ketika menjual produk mereka ke perusahaan lain atau ke pemerintah negara bagian dan lokal (walaupun banyak negara bagian akan mempertimbangkan rancangan undang-undang keselamatan AI pada tahun 2025) dan vendor perangkat lunak pemerintah menolak peraturan tersebut, dengan alasan bahwa lembaga-lembaga tersebut harus memutuskan jenis evaluasi dan transparansi apa yang diperlukan berdasarkan kasus per kasus.

“Percaya tapi verifikasi,” kata Paul Lekas, kepala kebijakan publik global untuk Asosiasi Industri Perangkat Lunak & Informasi. “Kami mewaspadai persyaratan yang membebani pengembang AI. Pada saat yang sama, kami menyadari bahwa perlu adanya perhatian terhadap tingkat transparansi yang diperlukan untuk mengembangkan kepercayaan bahwa pemerintah perlu menggunakan alat-alat ini.”

Kamar Dagang AS, dalam komentar yang disampaikan kepada OMB mengenai peraturan baru tersebut, mengatakan “pemerintah tidak boleh meminta data pelatihan khusus atau kumpulan data model AI yang diperoleh pemerintah dari vendor.” Palantir, salah satu pemasok utama AI, menulis bahwa pemerintah federal harus “menghindari pemberian instrumen dokumentasi yang kaku secara berlebihan, dan sebagai gantinya memberikan kelonggaran yang diperlukan kepada penyedia layanan dan vendor AI untuk mengkarakterisasi risiko yang spesifik pada konteksnya.”

Daripada mengakses data pelatihan atau kode sumber, vendor AI mengatakan bahwa dalam banyak kasus, lembaga harus merasa nyaman dengan kartu skor model—dokumen yang mencirikan data dan teknik pembelajaran mesin yang digunakan model AI tetapi tidak menyertakan detail teknis yang dipertimbangkan oleh perusahaan untuk diperdagangkan. rahasia.

Cari Miller, yang telah membantu mengembangkan standar internasional untuk algoritma pembelian dan salah satu pendiri AI Procurement Lab nirlaba, menggambarkan kartu skor sebagai solusi pelobi yang “bukanlah titik awal yang buruk, namun hanya titik awal” bagi vendor-vendor kelas atas. algoritma risiko harus diwajibkan secara kontrak untuk diungkapkan.

“Pengadaan adalah salah satu mekanisme tata kelola yang paling penting, ini adalah tempat bertemunya karet, ini adalah pintu depan, ini adalah tempat Anda dapat memutuskan apakah akan membiarkan hal-hal buruk masuk atau tidak,” katanya. “Anda perlu memahami apakah data dalam model tersebut representatif, bias atau tidak bias? Apa yang mereka lakukan dengan data tersebut dan dari mana asalnya? Apakah semuanya berasal dari Reddit atau Quora? Karena jika ya, mungkin itu bukan yang Anda butuhkan.”

Sebagaimana dicatat oleh OMB ketika meluncurkan peraturan AI-nya, pemerintah federal adalah pembeli tunggal terbesar dalam perekonomian AS, bertanggung jawab atas pembelian TI senilai lebih dari $100 miliar pada tahun 2023. Arah yang diambil dalam AI—apa yang harus diungkapkan oleh vendor dan bagaimana caranya hal ini menguji produk sebelum menerapkannya—kemungkinan akan menetapkan standar seberapa transparan perusahaan AI mengenai produk mereka ketika menjual produknya ke lembaga pemerintah yang lebih kecil atau bahkan ke perusahaan swasta lainnya.

Presiden terpilih Trump telah mengisyaratkan niatnya untuk membatalkan peraturan OMB. Dia berkampanye di platform partai yang menyerukan “pencabutan Perintah Eksekutif Joe Biden yang berbahaya dan menghambat Inovasi AI, dan memaksakan ide-ide Radikal Kiri pada pengembangan teknologi ini.”

Mathur, mantan penasihat senior AI di Gedung Putih, mengatakan dia berharap pemerintahan mendatang tidak menepati janji tersebut dan menunjukkan bahwa Trump memulai upaya untuk membangun kepercayaan pada sistem AI federal melalui perintah eksekutifnya pada tahun 2020.

Meminta lembaga untuk menginventarisasi sistem AI mereka dan menjawab pertanyaan tentang sistem kepemilikan yang mereka gunakan adalah tugas yang sangat besar, kata Mathur, yang “sangat berguna” tetapi memerlukan tindak lanjut.

“Jika kami tidak memiliki kode, data, atau algoritme, kami tidak akan dapat memahami dampak yang kami timbulkan,” katanya.

ADVERTISEMENT:

Hello, sobat pengemar slot! pernahkah mendengar semboyan “raja slot? jika belum, bersiaplah jatuh hati dengan konsep ini. raja slot adalah mesin slots yang selalu kasih kemenangan. Ya, mesin-mesin ini bisa dibilang sebagai jagoannya buat bawa pulang hasil. tapi, cemana sih
tekniknya nemuin slot gaco yang tepat? Tenang Bro and Sis, kita beri santai aja di tempat ini

Games tergaco waktu sekarang hanya satu di Indonesia hanya di yang menyediakan return on Investment tertinggi

SEGERA dengan di :

Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot

slot demo gacor

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

akun demo slot gacor

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

akun slot demo gacor

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

akun demo slot pragmatic

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

akun slot demo pragmatic

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

akun slot demo

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

akun demo slot

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com

slot demo gacor

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

akun demo slot gacor

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

akun slot demo gacor

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

akun demo slot pragmatic

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

akun slot demo pragmatic

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

akun slot demo

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

akun demo slot

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com

slot demo gacor

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

akun demo slot gacor

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

akun slot demo gacor

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

akun demo slot pragmatic

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

akun slot demo pragmatic

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

akun slot demo

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

akun demo slot

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro

slot demo gacor

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

akun demo slot gacor

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

akun slot demo gacor

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

akun demo slot pragmatic

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

akun slot demo pragmatic

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

akun slot demo

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

akun demo slot

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

situs slot terbaru

situs slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

slot terbaru

slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net

sewaapartemen permainan paling top dan garansi imbal balik hasil besar bersama sewaapartemen.org

pipapvc permainan paling top dan garansi imbal balik hasil besar bersama pipapvc.org

pialaeropa2028 permainan paling top dan garansi imbal balik hasil besar bersama pialaeropa2028.net

pialadunia2026 permainan paling top dan garansi imbal balik hasil besar bersama pialadunia2026.asia

bahanbangunan permainan paling top dan garansi imbal balik hasil besar bersama bahanbangunan.org

gemini999 permainan paling top dan garansi imbal balik hasil besar bersama gemini999.org

havana888 permainan paling top dan garansi imbal balik hasil besar bersama havana888.net

indonesia88 permainan paling top dan garansi imbal balik hasil besar bersama indonesia88.info

inspirasi permainan paling top dan garansi imbal balik hasil besar bersama inspirasi.info

jokiwin88 permainan paling top dan garansi imbal balik hasil besar bersama jokiwin88.org

oli88 permainan paling top dan garansi imbal balik hasil besar bersama oli88.org

situs88 permainan paling top dan garansi imbal balik hasil besar bersama situs88.asia

transfermarkt88 permainan paling top dan garansi imbal balik hasil besar bersama transfermarkt88.com

rossi46 permainan paling top dan garansi imbal balik hasil besar bersama rossi46.com

pecco88 permainan paling top dan garansi imbal balik hasil besar bersama pecco88.com

pecco permainan paling top dan garansi imbal balik hasil besar bersama pecco.asia

pangkas permainan paling top dan garansi imbal balik hasil besar bersama pangkas.net

facebook88 permainan paling top dan garansi imbal balik hasil besar bersama facebook88.com

depo88 permainan paling top dan garansi imbal balik hasil besar bersama depo88.asia

bajaringan88 permainan paling top dan garansi imbal balik hasil besar bersama bajaringan88.com

baja ringan permainan paling top dan garansi imbal balik hasil besar bersama bajaringan.asia

tradingview88 permainan paling top dan garansi imbal balik hasil besar bersama tradingview88.com

trading88 permainan paling top dan garansi imbal balik hasil besar bersama trading88.org

tokopedia88 permainan paling top dan garansi imbal balik hasil besar bersama tokopedia88.net

kualifikasi permainan paling top dan garansi imbal balik hasil besar bersama kualifikasi.net

grosirboneka permainan paling top dan garansi imbal balik hasil besar bersama grosirboneka.net

situsgacor permainan paling top dan garansi imbal balik hasil besar bersama situsgacor.news

prediksi88 permainan paling top dan garansi imbal balik hasil besar bersama prediksi88.biz

keramat88 permainan paling top dan garansi imbal balik hasil besar bersama keramat88.biz

cnn88 permainan paling top dan garansi imbal balik hasil besar bersama cnn88.asia

cnbc88 permainan paling top dan garansi imbal balik hasil besar bersama cnbc88.com

bloomberg88 permainan paling top dan garansi imbal balik hasil besar bersama bloomberg88.com

antibocor88 permainan paling top dan garansi imbal balik hasil besar bersama antibocor88.com

buku88 permainan paling top dan garansi imbal balik hasil besar bersama buku88.org

dukun88 permainan paling top dan garansi imbal balik hasil besar bersama dukun88.info

indodax88 permainan paling top dan garansi imbal balik hasil besar bersama indodax88.net

investing88 permainan paling top dan garansi imbal balik hasil besar bersama investing88.net

makanan88 permainan paling top dan garansi imbal balik hasil besar bersama makanan88.net

pakaian88 permainan paling top dan garansi imbal balik hasil besar bersama pakaian88.com

rambo88 permainan paling top dan garansi imbal balik hasil besar bersama rambo88.info

santet88 permainan paling top dan garansi imbal balik hasil besar bersama santet88.net

sekolah88 permainan paling top dan garansi imbal balik hasil besar bersama sekolah88.org

uno88 permainan paling top dan garansi imbal balik hasil besar bersama uno88.info

starlink88 permainan paling top dan garansi imbal balik hasil besar bersama starlink88.org

solitaire88 permainan paling top dan garansi imbal balik hasil besar bersama solitaire88.net

roblox88 permainan paling top dan garansi imbal balik hasil besar bersama roblox88.org

pubg88 permainan paling top dan garansi imbal balik hasil besar bersama pubg88.info

motogp88 permainan paling top dan garansi imbal balik hasil besar bersama motogp88.net

motivasi88 permainan paling top dan garansi imbal balik hasil besar bersama motivasi88.com

mobilelegends88 permainan paling top dan garansi imbal balik hasil besar bersama mobilelegends88.com

ludoking permainan paling top dan garansi imbal balik hasil besar bersama ludoking.asia

kucing88 permainan paling top dan garansi imbal balik hasil besar bersama kucing88.asia

kucing permainan paling top dan garansi imbal balik hasil besar bersama kucing.info

klasmen88 permainan paling top dan garansi imbal balik hasil besar bersama klasmen88.com

imdb88 permainan paling top dan garansi imbal balik hasil besar bersama imdb88.net

higgsdomino permainan paling top dan garansi imbal balik hasil besar bersama higgsdomino.biz

gmail88 permainan paling top dan garansi imbal balik hasil besar bersama gmail88.org

gmail88 permainan paling top dan garansi imbal balik hasil besar bersama gmail88.net

chess88 permainan paling top dan garansi imbal balik hasil besar bersama chess88.info

callofduty88 permainan paling top dan garansi imbal balik hasil besar bersama callofduty88.com

semen88 permainan paling top dan garansi imbal balik hasil besar bersama semen88.com

seluler88 permainan paling top dan garansi imbal balik hasil besar bersama seluler88.com

ram88 permainan paling top dan garansi imbal balik hasil besar bersama ram88.net

pasir88 permainan paling top dan garansi imbal balik hasil besar bersama pasir88.asia

papan88 permainan paling top dan garansi imbal balik hasil besar bersama papan88.info

komputer88 permainan paling top dan garansi imbal balik hasil besar bersama komputer88.net

kayu88 permainan paling top dan garansi imbal balik hasil besar bersama kayu88.info

kabel88 permainan paling top dan garansi imbal balik hasil besar bersama kabel88.net

gaming88 permainan paling top dan garansi imbal balik hasil besar bersama gaming88.asia

games88 permainan paling top dan garansi imbal balik hasil besar bersama games88.info

beton88 permainan paling top dan garansi imbal balik hasil besar bersama beton88.lat

teknis88 permainan paling top dan garansi imbal balik hasil besar bersama teknis88.com

sarana88 permainan paling top dan garansi imbal balik hasil besar bersama sarana88.info

arena88 permainan paling top dan garansi imbal balik hasil besar bersama arena88.asia

viral888 permainan paling top dan garansi imbal balik hasil besar bersama viral888.asia

usdt88 permainan paling top dan garansi imbal balik hasil besar bersama usdt88.net

uang88 permainan paling top dan garansi imbal balik hasil besar bersama uang88.asia

twitter88 permainan paling top dan garansi imbal balik hasil besar bersama twitter88.asia

tahanlama88 permainan paling top dan garansi imbal balik hasil besar bersama tahanlama88.com

suka88 permainan paling top dan garansi imbal balik hasil besar bersama suka88.biz

sekali88 permainan paling top dan garansi imbal balik hasil besar bersama sekali88.org

plafonpvc permainan paling top dan garansi imbal balik hasil besar bersama plafonpvc.net

pinjol88 permainan paling top dan garansi imbal balik hasil besar bersama pinjol88.asia

mpox88 permainan paling top dan garansi imbal balik hasil besar bersama mpox88.com

daun88 permainan paling top dan garansi imbal balik hasil besar bersama daun88.asia

wordpress88 permainan paling top dan garansi imbal balik hasil besar bersama wordpress88.net

whatsapp88 permainan paling top dan garansi imbal balik hasil besar bersama whatsapp88.net

wechat88 permainan paling top dan garansi imbal balik hasil besar bersama wechat88.net

telegram88 permainan paling top dan garansi imbal balik hasil besar bersama telegram88.org

super888 permainan paling top dan garansi imbal balik hasil besar bersama super888.asia

skype88 permainan paling top dan garansi imbal balik hasil besar bersama skype88.com

racing88 permainan paling top dan garansi imbal balik hasil besar bersama racing88.asia

pupuk88 permainan paling top dan garansi imbal balik hasil besar bersama pupuk88.net

petani888 permainan paling top dan garansi imbal balik hasil besar bersama petani888.org

pabrik88 permainan paling top dan garansi imbal balik hasil besar bersama pabrik88.asia

organik88 permainan paling top dan garansi imbal balik hasil besar bersama organik88.com

online77 permainan paling top dan garansi imbal balik hasil besar bersama online77.info

ojek88 permainan paling top dan garansi imbal balik hasil besar bersama ojek88.info

nostalgia88 permainan paling top dan garansi imbal balik hasil besar bersama nostalgia88.com

michat permainan paling top dan garansi imbal balik hasil besar bersama michat.info

Related posts

Marvel Hanya Merilis Satu Film di Tahun 2024, Tapi Masih Memiliki Tahun yang Besar

admin985254YKjhb

Lingkaran Hitam Menanamkan Genre ‘Media Terkutuklah’ Dengan Teror Psikis

admin985254YKjhb

Nigel Farage mengatakan Reformasi dapat memenangkan kekuasaan

admin985254YKjhb
ADVERTISEMENT

PANEN96 promo