Kebijakan Periklanan “Akankah SB1047… berarti akhir dari industri teknologi California?” Yan LeCun, kepala ilmuwan AI Meta dan salah satu yang disebut “bapak baptis” ledakan kecerdasan buatan, menulis pada bulan Juni Saya menanyakan hal ini.
Lecun beresonansi dengan banyak reaksi panik di industri teknologi ke Kongres California, yang saat ini sedang berunding di Kongres California, SB1047. RUU ini membangun sistem peraturan pertama di Jepang, yang berspesialisasi dalam AI. SB1047 telah melewati negara bagian Sopar hampir tanpa memberikan suara dan sekarang sedang menunggu parlemen negara bagian. Namun, RUU tersebut telah diserang oleh oran g-orang berpengaruh Silicon Valley untuk mengancam masa depan inovasi teknologi. Ini adalah momen topeng untuk industri AI. Mendengarkan perusahaa n-perusahaan top, AI tingkat manusia dapat muncul dalam waktu lima tahun, dan kepunahan yang dipenuhi penuh semakin dekat di depan Anda. Para pemimpin perusahaa n-perusahaan ini berbicara tentang perlunya peraturan, dan sebagai CEO Openai Sam Altmann mengatakan secara mengesankan, sistem AI canggih dapat mengarah pada “lampu untuk kita.” Tetapi sekarang, mereka dan kelompok industri mereka mengatakan bahwa regulasi terlalu dini. Atau, tentu saja, kami menginginkan peraturan, tetapi kami ingin menghindari peraturan ini sendirian. Tidak ada perusahaan AI utama yang mendukung SB1047. Di beberapa tempat, seperti Google dan Meta, itu menunjukkan oposisi yang tidak biasa. Selain itu, beberapa perusahaan memiliki sikap yang lebih hat i-hati, seperti membuat organisasi industri berbicara dan menuntut agar RUU itu akan dilemahkan lebih lanjut. Perlu melihat apa yang dilakukan SB1047 dan apa yang harus dilakukan, karena ada oposisi yang sangat kuat. Dan jika Anda melakukannya, Anda dapat melihat bahwa SB1047 memiliki masalah berikut.
Namun, ketika Anda melihat ekspresi berlebihan ini, Anda dapat melihat lanskap yang berbeda secara fundamental. RUU yang sebenarnya terdiri dari klausa yang sangat umum yang dibuat dengan menggabungkan pendapat pengembang AI, dan mengarah ke dunia, termasuk dua orang yang dianggap sebagai ayah baptis AI bersama Lecun. Protagonis SB1047 menyatakan bahwa tidak akan ada “akhi r-dar i-kehidupan” seperti yang dijelaskan dalam peringatan kritik. Klaim ini sama untuk whistleblower Openai, Daniel Cocotadado, dan dia mendukung RUU itu, dengan mengatakan, “Jika RUU itu disahkan, kritikus itu pesimis dalam halangan terhadap kemajuan AI. Tidak akan disadari.” Juga, aliran keluar AI tidak mungkin terjadi. SB1047 adalah kekuatan ekonomi terbesar kelima dunia, dan diterapkan pada semua orang yang melakukan bisnis di California, kantor pusat de facto. Menurut Senator Scott Wiener, pencipta SB1047, inti dari RUU ini adalah serangkaian langka h-langkah keselamatan bagi pengembang “model target” (sistem AI yang lebih besar dan lebih mahal daripada sistem AI yang paling kuat). . RUU ini meminta pengembang ini untuk memberikan “jaminan rasional” bahwa model tidak menyebabkan kerusakan bencana didefinisikan sebagai setidaknya $ 500 juta atau tewas massal. Menurut Wiener, aturan penting lainnya adalah bahwa jika keadaan darurat terjadi, pengembang harus menutup model target. Wiener jauh dari sayap kiri bidang panggang. Dia mendukung AI, inovasi, dan open source. Menurut profil Politico bar u-baru ini, Wie mengatakan:
Hubungan tersebut tidak melindungi Wiener dari kemarahan industri teknologi atas RUU tersebut. Ketiga pengembang AI utama, OpenAI, Anthropic, dan Google, adalah anggota TechNet, sebuah kelompok industri yang menentang RUU tersebut (anggotanya juga termasuk Amazon, Apple, dan Meta). OpenAI awalnya tidak mengambil posisi publik mengenai RUU tersebut, namun juru bicara perusahaan menyuarakan penentangannya dalam artikel New York Times pada hari Rabu. The Times melaporkan bahwa perusahaan tersebut mengatakan kepada Weiner bahwa “risiko AI yang serius adalah masalah keamanan nasional dan harus diatur oleh pemerintah federal, bukan negara bagian.” Seorang pelobi Microsoft mengatakan perusahaan tersebut secara resmi netral tetapi menginginkan undang-undang nasional. TechNet dan kelompok industri lainnya berpendapat bahwa keselamatan AI sudah “ditangani secara memadai di tingkat federal” dan harus menunggu standar keselamatan AI nasional yang sedang berjalan. Mereka gagal untuk mengakui bahwa Partai Republik telah memblokir undang-undang federal yang penting dan berjanji untuk membatalkan perintah eksekutif Biden mengenai AI. Jika Anda ingat, Google dan Meta secara terbuka menentang RUU tersebut. Hal yang paling dekat dengan dukungan industri adalah Anthropic, perusahaan AI terkemuka yang mengutamakan keselamatan. Anthropic mengeluarkan surat yang menyerukan perubahan besar terhadap RUU tersebut, dan mengatakan bahwa mereka akan mendukungnya jika diubah. Salah satu contohnya adalah peralihan dari apa yang disebut oleh perusahaan sebagai “penindakan pra-bahaya yang ekstensif” menjadi sesuatu yang mengharuskan pengembang untuk menciptakan:
The New York Times melaporkan pada bulan November bahwa Anthropic didirikan oleh karyawan OpenAI dan gagal menggulingkan Sam Altman pada tahun 2021. Sejak saat itu, perusahaan ini telah menerima investasi sebesar $6 miliar dari Google dan Amazon, yang merupakan biaya menjalankan bisnis dalam pengembangan AI yang padat modal. Jenis investasi ini dapat berdampak pada prioritas perusahaan. Seperti yang dikatakan oleh kepala kebijakan Anthropic, Jack Clark, kepada Vox pada bulan September lalu, “Saya pikir insentif perusahaan sangat tidak seimbang. Namun dibandingkan dengan itu, jumlah uang yang masuk ke dalam tagihan dari komunitas investor AI… Reaksinya menunjukkan Besar Kurangnya tanggung jawab teknologi. Lawan yang paling terorganisir dan keras adalah Andreessen Horowitz, yang dikenal sebagai A16Z, yang merupakan perusahaan modal ventura terbesar di dunia. Dalam surat terbuka dan artikel di Financial Times dan Fortune, para pendiri dan mitra portofolio a16z sangat vokal tentang hal tersebut Isi RUU tersebut mengatakan bahwa SB1047 menyertakan “persyaratan yang tidak dapat dicapai” bagi pengembang untuk “mensertifikasi bahwa model AI mereka tidak akan digunakan untuk menimbulkan kerugian.” Namun, teks RUU tersebut dengan jelas menyatakan bahwa “’jaminan yang wajar’ tidak berarti kepastian mutlak atau kepastian praktis.” Mereka berpendapat bahwa klausul penangguhan darurat secara efektif mematikan AI open source. Namun, Weiner mengatakan ketentuan tersebut tidak dimaksudkan untuk diterapkan pada model open source, dan dia mengubah undang-undang tersebut untuk memperjelas hal tersebut. Feifei Li, bapak baptis AI, mengumumkan AI open source.
“Geser ke kiri di bawah untuk melihat penulis lain.
Skenario yang paling konsisten, dan mungkin paling tidak masuk akal, adalah bahwa a16z memperjuangkan “teknologi kecil” melawan pemerintah yang melampaui batas yang memberikan beban yang tidak semestinya pada “perusahaan rintisan yang baru saja berdiri.” Namun, SB1047 hanya akan berlaku untuk model yang memerlukan biaya setidaknya $100 juta untuk pelatihan dan menggunakan lebih banyak daya komputasi dibandingkan model mana pun yang pernah diketahui.
Jadi perusahaan rintisan ini akan menjadi cukup kaya untuk melatih model-model yang sangat mahal dan canggih, namun tidak mampu menerapkan dan melaporkan langkah-langkah keselamatan dasar? Apakah a16z akan senang jika startup dalam portofolionya tidak memiliki rencana seperti ini?
The Defenders of Little Tech tidak menyebutkan bahwa mereka berinvestasi di Openai dan Facebook (A16Z c o-founder Mark dan Leisen).
SB1047 juga memiliki musuh yang kuat di Kongres. Yang paling berbahaya adalah Zoe Lovgren, anggota terkemuka Partai Demokrat dari Dewan Perwakilan Rakyat, Luar Angkasa dan Komite Teknis. Lofgren, yang paling banyak di daerah pemilihan di Silicon Valley, telah menerima ratusan ribu dolar dari teknologi besar dan modal ventura, dan putrinya bekerja di tim hukum Google. Putrinya juga milik tim hukum Google.
Rofgren bar u-baru ini mengambil tindakan yang tidak biasa untuk menulis surat yang bertentangan dengan tagihan tingkat negara bagian. SB1047 terlalu dini dan berpendapat bahwa “sains atas keselamatan AI masih berkembang.” Demikian pula, satu pelobi industri mengatakan kepada saya, “Ini adalah industri yang berkembang pesat,” dan sebagai perbandingan, “industri penerbangan telah menetapkan praktik terbaik.”
Kami tidak tahu ap a-apa tentang cara terbaik untuk membangun sistem AI yang kuat dengan aman dan industri AI cepat. Tetapi apakah itu debat yang menentang mengatur sekarang?
Pendekatan yang berhat i-hati dan gigih ini tampaknya dalam hal regulasi. Mengenai konstruksi dan pengenalan sistem AI yang lebih kuat dan otonom, masin g-masing perusahaan menantang persaingan menyeluruh.
Di Eropa dan Amerika Serikat, regulasi diri adalah situasi saat ini. Secara umum, aturan paksa Eropa dan Amerika di Eropa dan Amerika Serikat hanya termasuk dalam metode AI UE yang komprehensif, yang tidak akan berlaku sampai Juni 2025.
Semua perusahaan AI besar sedang melakukan inisiatif sukarela. Tetapi kepatuhan secara keseluruhan tidak sempurna.
Meltdown ke SB1047 adalah bukti industri yang “tidak di bawah peraturan yang bermakna dan memiliki alergi dalam peraturan”, yang merupakan direktur keamanan ekonomi California dan tagihan yang diajukan bersama.
Oposisi SB1047 telah bersemangat untuk membuat RUU tersebut menjadi tindakan penghancuran industri yang mendesak, ditakuti oleh pembajakan robot fiksi ilmiah yang akan segera terjadi. Dengan mengubah cerita menjadi risiko yang ada, kami berusaha mengawasi ketentuan spesifik tagihan yang telah mendapatkan dukungan kuat dalam berbagai jajak pendapat publik di seluruh negara bagian.
Lofgren menulis bahwa RUU itu tampaknya secara signifikan bias untuk mengatasi krisis kelangsungan hidup virtual.
Namun, saya mengatakan kepada saya bahwa c o-propenders, Orle, dan pendiri dan presiden Encode Justice, pendiri dan presiden Encode Justice, semuanya berfokus pada risiko bencana, jauh di bawah kepunahan umat manusia yang sempurna.
Memang benar bahwa tidak ada yang tahu bahwa sistem AI dapat menjadi cukup kuat untuk membunuh atau menjadi budak, (tetapi bagian atas perusahaan AI utama dan sains AI yang paling dikutip. Setiap orang menyatakan bahwa ada kemungkinan). Namun, karena banyak pendorong teknis, sangat sulit untuk mengklaim bahwa AI sama pentingnya dengan revolusi industri dan bahwa sistem AI tidak memiliki risiko membuat bencana.
Tiga pemimpin AI dan “pendiri” undan g-undang internet mengumumkan surat yang mendukung RUU ini, dengan mengatakan, “AI menyebabkan serangan terhadap infrastruktur penting, pengembangan senjata berbahaya, dan bencana lainnya. Risiko disalahgunakan meningkat.” Mereka mengatakan bahwa risik o-risiko ini dapat terlihat dalam beberapa dekade, bukan dalam beberapa dekade, dan mereka “lebih mungkin dan penting bahwa tes keselamatan dan tindakan pencegahan akal sehat diperlukan.”
Wiener berkata, “Saya hanya membutuhkan satu hukum federal yang kuat,” tetapi saya tidak mengharapkannya. Dia menunjukkan bahwa parlemen tidak membatasi teknologi dalam beberapa dekade terakhir, terlepas dari larangan Tiktok. Dihadapkan oleh ini yang belum pernah terjadi sebelumnya, California telah mengesahkan undan g-undang sendiri tentang privasi data dan netralitas online (yang terakhir ditulis oleh Wener).
Berdasarkan situasi ini, Ori mengatakan, “Ini menarik perhatian ke jalan Sacramento dan Brussels Uni Eropa yang mengatur AI dan mengatur teknologi.” SB1047 bukan hanya peraturan, tetapi pertanyaan, “Siapa yang memutuskan? Siapa yang memutuskan standar keselamatan teknologi yang sangat kuat ini?” Saat ini, dia menunjukkan bahwa dia telah membuat “minivan” seperti itu, terlepas dari kenyataan bahwa dia adalah beberapa orang yang dapat “mengendarai minivan”, tetapi dia memiliki “dampak besar pada masyarakat”.
Weaner adalah perwakilan dari San Francisco, dan sebagai hasilnya, seseorang yang terlibat dalam RUU itu mengatakan bahwa mengesahkan SB1047 telah membayar banyak pengorbanan secara pribadi dan politis: “Dia membawa RUU ini. Saya pikir besarnya rasa sakit politik Luar biasa, dan dia berpikir bahwa risikonya sebenarnya adalah kenyataan.
Lawan berpendapat bahwa SB1047 memiliki “reputasi skala besar” dan menekankan bahaya yang tidak berdasar dari para korban simpatik seperti para sarjana dan pengembang sumber terbuka. Namun, RUU ini ditujukan untuk pengembang AI terbesar di dunia dari depan dan telah mendapatkan dukungan yang lebih kuat dari pekerja teknis.
AI Kapitalis sedang berusaha melindungi kepentingan material yang kami sadari dari masyarakat sipil, pekerja, dan koalisi publik yang lebih luas.
Catatan: Artikel ini telah diperbarui untuk memasukkan oposisi Openai terhadap RUU tersebut.
Dalam pemilihan ini, nasib demokrasi dan ha k-hak sipil dasar akan terpilih. Jika Donald Trump menang, aktor konservatif Proyek 2025 berencana untuk melembagakan visi otoritatif Donald Trump di setiap tingkat pemerintahan.
Kami telah melihat peristiwa yang memuaskan kami dengan rasa takut dan optimisme yang hat i-hati. Melalui semua, bangsa ini adalah pemecah gelombang untuk informasi yang salah dan penasihat yang berani dan prinsip. Penulis kami yang setia telah mengungkapkan daya tarik populis sayap kanan J. D. Bance dalam menanggapi wawancara dengan Camala Harris dan Bernie Sanders, dan telah membahas jalan menuju kemenangan Demokrat pada bulan November.
Artikel seperti itu dan artikel yang Anda baca sangat penting dalam persimpangan penting dalam sejarah kita. Untuk memahami arti berita utama dan membedakan antara fakta dan fiksi, jurnalisme independen yang sangat dilaporkan dengan mata jernih diperlukan lebih dari sebelumnya. Tolong donasi sekarang, bicarakan tentang kebenaran ke kekuasaan, dan bergabunglah dengan sejarah 160 tahun, yang telah mengangkat suara akar rumput.
Pada tahun 2024, dan melalui pemilihan yang tampaknya memengaruhi kehidupan kami, Anda perlu mendukung Anda untuk terus mengeluarkan jurnalisme yang penuh dengan wawasan yang Anda percayai.
Terima kasih, Departemen Editorial “Bangsa”.
Garrison Lovely adalah jurnalis lepas. Jacobin,” “Urusan Terkini,” dan “Fokus New York.”
Pada malam terakhir DNC, calon presiden dari Partai Demokrat Kamala Harris memancarkan keyakinan baru atas pencapaiannya.
Bagaimana mantan rektor Universitas Columbia saat ini mengkhianati mahasiswa, kehilangan kepercayaan, dan merusak kantornya.
“Kami memiliki anggota serikat pekerja yang memanfaatkan Bagian 8. ‘Mayoritas anggota serikat kami tidak mampu untuk tinggal di sini di Ithaca, dekat dengan tempat kerja.’
Jurnalis sering kali harus membayar mahal ketika mencoba menceritakan kisah Palestina.
Dua unit penjara rahasia, yang sebelumnya hanya menampung orang-orang yang dikatakan terkait dengan terorisme, telah berkembang hampir 80 persen dalam 15 tahun, dan unit-unit baru sedang dibangun.
Olimpiade akan mempercepat permasalahan yang sudah ada di kota-kota tuan rumah. Kami melihatnya di Paris, tapi apa yang akan terjadi di Los Angeles?
