Satu hal yang saya perhatikan tentang sistem AI modern adalah betapa mudahnya kesalahan kecil menyelinap ke dalam jawaban yang sebaliknya meyakinkan.
Respon mungkin terlihat bijaksana. Bahasanya mengalir dengan baik. Namun di suatu tempat di dalam penjelasan, sebuah detail mungkin salah atau sedikit dibuat-buat. Sistem bergerak maju seolah tidak ada yang terjadi.
Itu adalah bagian aneh dari keandalan AI. Sebuah jawaban dapat mengandung alasan yang kuat dan kesalahan kecil.
Saat membaca tentang @Mira - Trust Layer of AI , saya mulai memikirkan cara berbeda untuk mendekati masalah ini.
Alih-alih meminta satu model AI untuk menghasilkan dan memverifikasi informasi pada saat yang sama, Mira memperlakukan jawaban lebih seperti kumpulan pernyataan kecil. Setiap pernyataan menjadi sesuatu yang dapat diperiksa secara independen.
Model AI yang berbeda meninjau bagian-bagian tersebut dan mengevaluasi apakah mereka tampak akurat.
Penilaian mereka kemudian dikoordinasikan melalui konsensus blockchain. Jaringan mencatat hasil verifikasi menggunakan bukti kriptografi, yang menciptakan lapisan kepercayaan bersama yang tidak bergantung pada satu organisasi tunggal.
Dalam istilah sederhana, sistem berperilaku sedikit seperti panel ulasan terdistribusi untuk keluaran AI.
Token $MIRA membantu menyusun insentif bagi peserta yang melakukan pekerjaan verifikasi. Validator menyumbangkan sumber daya komputasi untuk memeriksa klaim dan membantu jaringan mencapai kesepakatan tentang informasi mana yang dapat dipercaya.
Desain itu yang membuat #Mira menarik.
Alih-alih satu perusahaan bertindak sebagai otoritas akhir atas akurasi AI, verifikasi menjadi sesuatu yang lebih dekat dengan infrastruktur bersama. Banyak sistem independen berpartisipasi dalam mengevaluasi informasi.
Tentu saja, ide tersebut juga menimbulkan kekhawatiran praktis.
Menjalankan beberapa model verifikasi memerlukan komputasi. Mengkoordinasikan validator terdesentralisasi tidaklah sederhana. Dan proyek-proyek di seluruh ruang AI terdesentralisasi sedang menjelajahi lapisan kepercayaan serupa, yang berarti persaingan kemungkinan akan meningkat.
Jadi #MiraNetwork masih terasa seperti upaya awal untuk menyelesaikan masalah yang rumit.
Tetapi pemikiran dasarnya sederhana: mungkin jawaban AI menjadi lebih dapat diandalkan ketika lebih dari satu sistem secara diam-diam memeriksa pekerjaan tersebut.
