Ada keheningan tertentu yang mulai saya perhatikan dalam percakapan tentang keamanan AI. Itu muncul tepat setelah kekhawatiran yang tulus diangkat dan ruangan beralih ke pengawasan. Siapa yang melakukan pengawasan, dengan syarat apa, dan bertanggung jawab kepada siapa. Pertanyaan-pertanyaan itu cenderung tidak diikuti.
Kerangka ketakutan melakukan sesuatu yang halus di sini. Itu tidak hanya membenarkan sentralisasi, tetapi juga membuat pertanyaan tentang kekuasaan terasa seperti berargumen untuk bahaya. Setelah Anda menerima bahwa teknologi adalah ancaman, pertanyaan tentang siapa yang memegang kunci terdengar seperti pengalihan perhatian, di terbaik, dan tidak bertanggung jawab, di terburuk. Jendela kekhawatiran yang sah perlahan menyempit.
Di sinilah menjadi aneh. Kontrol terpusat atas infrastruktur AI bukanlah pengaturan administratif yang netral. Itu menentukan model apa yang dibangun, kasus penggunaan apa yang mendapatkan akses, dan penilaian siapa tentang inferensi yang dapat diterima yang menjadi default. Itu bukan keputusan keamanan. Itu adalah keputusan politik. Kerangka ketakutan mencuci mereka menjadi yang sebelumnya.
Sejarah menawarkan paralel yang berguna. Setiap teknologi yang cukup berbahaya untuk memerlukan pengawasan, nuklir, farmasi, infrastruktur keuangan, pada akhirnya menghasilkan pengaturan yang sama: mereka yang paling dekat dengan bahaya menjadi mereka yang paling dekat dengan keputusan. Terkadang itu masuk akal. Seiring waktu, perbedaan antara mengelola risiko dan mengendalikan aset larut, dan logika siapa lagi yang akan Anda percayai bertahan lebih lama dari keadaan darurat yang pertama kali membenarkannya.
Jawabannya layak diambil serius. Bukan karena keahlian tidak penting, tetapi karena akses dan keahlian bukanlah hal yang sama, dan menyamakannya adalah bagaimana kekhawatiran keamanan yang sah menjadi pengaturan kekuasaan yang tahan lama.
Saya pikir itulah masalah @OpenGradient yang berusaha dibuatnya secara struktural lebih sulit untuk direproduksi. Mendistribusikan hosting model, inferensi, dan verifikasi sehingga tidak ada aktor tunggal yang mengontrol apa yang dapat dilakukan jaringan berarti pertanyaan tentang siapa yang memutuskan tidak memiliki jawaban yang jelas, dengan sengaja.
Jika ketakutan terhadap AI telah menjadi salah satu argumen yang lebih efektif untuk konsentrasi, pertanyaan sebenarnya mungkin adalah apakah kontrol keamanan dan akses pernah menjadi kekhawatiran yang sama.
$OPG
#OPG
$SYN
Kerangka ketakutan melakukan sesuatu yang halus di sini. Itu tidak hanya membenarkan sentralisasi, tetapi juga membuat pertanyaan tentang kekuasaan terasa seperti berargumen untuk bahaya. Setelah Anda menerima bahwa teknologi adalah ancaman, pertanyaan tentang siapa yang memegang kunci terdengar seperti pengalihan perhatian, di terbaik, dan tidak bertanggung jawab, di terburuk. Jendela kekhawatiran yang sah perlahan menyempit.
Di sinilah menjadi aneh. Kontrol terpusat atas infrastruktur AI bukanlah pengaturan administratif yang netral. Itu menentukan model apa yang dibangun, kasus penggunaan apa yang mendapatkan akses, dan penilaian siapa tentang inferensi yang dapat diterima yang menjadi default. Itu bukan keputusan keamanan. Itu adalah keputusan politik. Kerangka ketakutan mencuci mereka menjadi yang sebelumnya.
Sejarah menawarkan paralel yang berguna. Setiap teknologi yang cukup berbahaya untuk memerlukan pengawasan, nuklir, farmasi, infrastruktur keuangan, pada akhirnya menghasilkan pengaturan yang sama: mereka yang paling dekat dengan bahaya menjadi mereka yang paling dekat dengan keputusan. Terkadang itu masuk akal. Seiring waktu, perbedaan antara mengelola risiko dan mengendalikan aset larut, dan logika siapa lagi yang akan Anda percayai bertahan lebih lama dari keadaan darurat yang pertama kali membenarkannya.
Jawabannya layak diambil serius. Bukan karena keahlian tidak penting, tetapi karena akses dan keahlian bukanlah hal yang sama, dan menyamakannya adalah bagaimana kekhawatiran keamanan yang sah menjadi pengaturan kekuasaan yang tahan lama.
Saya pikir itulah masalah @OpenGradient yang berusaha dibuatnya secara struktural lebih sulit untuk direproduksi. Mendistribusikan hosting model, inferensi, dan verifikasi sehingga tidak ada aktor tunggal yang mengontrol apa yang dapat dilakukan jaringan berarti pertanyaan tentang siapa yang memutuskan tidak memiliki jawaban yang jelas, dengan sengaja.
Jika ketakutan terhadap AI telah menjadi salah satu argumen yang lebih efektif untuk konsentrasi, pertanyaan sebenarnya mungkin adalah apakah kontrol keamanan dan akses pernah menjadi kekhawatiran yang sama.
$OPG
#OPG
$SYN