Saya melihat visi untuk Midnight dan itu benar-benar menarik di atas kertas. Ide bahwa agen AI dapat memperdagangkan keluaran model secara diam-diam melalui bukti ZK adalah evolusi alami dari perdagangan mesin.
Tetapi inilah friksinya. Dengan memperkenalkan pengungkapan selektif dan kunci tampilan untuk kepatuhan, Midnight menciptakan paradoks besar.
Jika seorang agen AI melakukan transaksi otonom yang kemudian ditandai oleh regulator menggunakan kunci tampilan, siapa yang secara hukum bertanggung jawab?
Pengembang?
Pelari node?
Kami pada dasarnya sedang membangun kolam gelap untuk bentuk kehidupan berbasis silikon sambil secara bersamaan berusaha menjaga agar lampu tetap menyala untuk auditor manusia.
Ini terdengar kurang seperti ekonomi mesin yang berdaulat dan lebih seperti ladang hukum di mana privasi hanya sekuat panggilan pengadilan berikutnya. Jika saklar mati untuk kerahasiaan ada demi hukum, apakah AI benar-benar memiliki otonomi yang kami janjikan?
Bagaimana Anda akan mencegah sistem "kunci tampilan" menjadi titik kegagalan terpusat yang mengkompromikan privasi yang sangat dibutuhkan oleh agen AI ini?