@OpenGradient Saya telah memikirkan tentang sebuah garis khusus dalam pengumuman peluncuran OpenGradient Chat minggu ini, bagian tentang kemampuan untuk "memverifikasi jaminan ini sendiri daripada hanya mempercayai kata-kata OpenGradient." Ini adalah frasa kecil yang mudah dilewatkan, tetapi itu melakukan sesuatu yang kebanyakan pemasaran privasi tidak coba lakukan.
Kebanyakan klaim privasi AI meminta kepercayaan. Dokumen kebijakan, sebuah janji, terkadang audit pihak ketiga yang harus Anda percayai karena Anda tidak membacanya sendiri. Frasa ini berbeda dalam jenis, bukan hanya derajat; ini adalah undangan untuk memeriksa, bukan hanya jaminan untuk percaya.
Apa yang sebenarnya dibutuhkan, bagaimanapun, adalah tingkat literasi teknis yang tidak dimiliki kebanyakan pengguna. Memverifikasi attestation TEE, memeriksa nilai PCR terhadap registri on-chain, mengonfirmasi hash sertifikat TLS yang cocok—semua itu tidak dapat diakses oleh seseorang yang hanya ingin mengajukan pertanyaan pribadi tanpa memikirkan kriptografi. Jadi, jaminan tersebut dapat diverifikasi dalam prinsip, tetapi di praktiknya tidak ada yang melakukan itu, kecuali audiens teknis kecil.
Saya terus-menerus berpikir apakah celah itu penting. Brankas bank juga dapat diverifikasi dalam prinsip; Anda bisa mempelajari metalurgi dan mekanisme kunci, tetapi hampir tidak ada yang melakukannya, dan brankas tetap berfungsi sebagai sinyal kepercayaan karena verifikasi ada bagi mereka yang menginginkannya, meskipun kebanyakan orang tidak pernah memeriksa.
Mungkin itu adalah perbandingan yang tepat. Mungkin tidak, karena verifikasi kriptografi dan inspeksi brankas tidak benar-benar melakukan jenis pekerjaan yang sama.
Apa yang masih saya tidak tahu adalah apakah OpenGradient atau pihak ketiga mana pun telah benar-benar menerbitkan panduan independen untuk memverifikasi jaminan ini dari awal hingga akhir; sesuatu yang dapat diikuti oleh pengguna yang mampu secara teknis tetapi bukan ahli, atau apakah verifikasi tetap bersifat teoretis untuk semua orang kecuali tim teknik asli.?
$OPG
#OPG
opengradient.ai
Kebanyakan klaim privasi AI meminta kepercayaan. Dokumen kebijakan, sebuah janji, terkadang audit pihak ketiga yang harus Anda percayai karena Anda tidak membacanya sendiri. Frasa ini berbeda dalam jenis, bukan hanya derajat; ini adalah undangan untuk memeriksa, bukan hanya jaminan untuk percaya.
Apa yang sebenarnya dibutuhkan, bagaimanapun, adalah tingkat literasi teknis yang tidak dimiliki kebanyakan pengguna. Memverifikasi attestation TEE, memeriksa nilai PCR terhadap registri on-chain, mengonfirmasi hash sertifikat TLS yang cocok—semua itu tidak dapat diakses oleh seseorang yang hanya ingin mengajukan pertanyaan pribadi tanpa memikirkan kriptografi. Jadi, jaminan tersebut dapat diverifikasi dalam prinsip, tetapi di praktiknya tidak ada yang melakukan itu, kecuali audiens teknis kecil.
Saya terus-menerus berpikir apakah celah itu penting. Brankas bank juga dapat diverifikasi dalam prinsip; Anda bisa mempelajari metalurgi dan mekanisme kunci, tetapi hampir tidak ada yang melakukannya, dan brankas tetap berfungsi sebagai sinyal kepercayaan karena verifikasi ada bagi mereka yang menginginkannya, meskipun kebanyakan orang tidak pernah memeriksa.
Mungkin itu adalah perbandingan yang tepat. Mungkin tidak, karena verifikasi kriptografi dan inspeksi brankas tidak benar-benar melakukan jenis pekerjaan yang sama.
Apa yang masih saya tidak tahu adalah apakah OpenGradient atau pihak ketiga mana pun telah benar-benar menerbitkan panduan independen untuk memverifikasi jaminan ini dari awal hingga akhir; sesuatu yang dapat diikuti oleh pengguna yang mampu secara teknis tetapi bukan ahli, atau apakah verifikasi tetap bersifat teoretis untuk semua orang kecuali tim teknik asli.?
$OPG
#OPG
opengradient.ai