Satu hal yang menarik tentang industri AI hari ini adalah bahwa sebagian besar percakapan berputar di sekitar kemampuan.
Model yang lebih besar. Penalaran yang lebih baik. Respon yang lebih cepat.
Asumsi tampaknya adalah bahwa jika sebuah sistem AI menghasilkan keluaran yang berguna, kepercayaan akan mengikuti secara alami.
Saya tidak yakin itu cukup.
Seiring AI semakin terlibat dalam penelitian, keputusan finansial, agen otonom, dan alur kerja kritis, pertanyaan berbeda mulai menjadi penting:
Bagaimana kita tahu apa yang sebenarnya terjadi di balik jawaban?
Jika dua sistem AI menghasilkan keluaran yang sama, perbedaannya mungkin bukan hanya kecerdasan. Mungkin juga transparansi.
Itulah salah satu alasan @OpenGradient menarik perhatian saya.
Yang saya temukan menarik adalah bahwa proyek ini tampaknya berfokus pada lapisan yang sebagian besar diskusi AI hampir tidak dibicarakan: inferensi yang dapat diverifikasi.
Alih-alih meminta pengguna untuk mempercayai keluaran AI secara membabi buta, idenya adalah untuk membuat hasil yang disertai bukti dan pengesahan yang dapat diperiksa secara independen.
Apa yang membuat ini semakin menarik adalah bahwa verifikasi bukan hanya tantangan teknis. Ini bisa menjadi tantangan ekonomi.
Modal, institusi, dan aplikasi skala besar sering bergerak menuju sistem yang lebih mudah diaudit dan divalidasi. Jika AI menjadi bagian dari proses pengambilan keputusan yang penting, bukti mungkin akhirnya sama pentingnya dengan kinerja.
Kita mungkin masih awal, tetapi saya pikir perlombaan AI di masa depan bisa melibatkan dua kompetisi terpisah:
Siapa yang bisa menghasilkan jawaban terbaik?
Dan siapa yang bisa membuktikan bahwa jawaban tersebut dihasilkan seperti yang diklaim?
Itu adalah percakapan yang layak untuk diperhatikan.
@OpenGradient #OPG $OPG
Model yang lebih besar. Penalaran yang lebih baik. Respon yang lebih cepat.
Asumsi tampaknya adalah bahwa jika sebuah sistem AI menghasilkan keluaran yang berguna, kepercayaan akan mengikuti secara alami.
Saya tidak yakin itu cukup.
Seiring AI semakin terlibat dalam penelitian, keputusan finansial, agen otonom, dan alur kerja kritis, pertanyaan berbeda mulai menjadi penting:
Bagaimana kita tahu apa yang sebenarnya terjadi di balik jawaban?
Jika dua sistem AI menghasilkan keluaran yang sama, perbedaannya mungkin bukan hanya kecerdasan. Mungkin juga transparansi.
Itulah salah satu alasan @OpenGradient menarik perhatian saya.
Yang saya temukan menarik adalah bahwa proyek ini tampaknya berfokus pada lapisan yang sebagian besar diskusi AI hampir tidak dibicarakan: inferensi yang dapat diverifikasi.
Alih-alih meminta pengguna untuk mempercayai keluaran AI secara membabi buta, idenya adalah untuk membuat hasil yang disertai bukti dan pengesahan yang dapat diperiksa secara independen.
Apa yang membuat ini semakin menarik adalah bahwa verifikasi bukan hanya tantangan teknis. Ini bisa menjadi tantangan ekonomi.
Modal, institusi, dan aplikasi skala besar sering bergerak menuju sistem yang lebih mudah diaudit dan divalidasi. Jika AI menjadi bagian dari proses pengambilan keputusan yang penting, bukti mungkin akhirnya sama pentingnya dengan kinerja.
Kita mungkin masih awal, tetapi saya pikir perlombaan AI di masa depan bisa melibatkan dua kompetisi terpisah:
Siapa yang bisa menghasilkan jawaban terbaik?
Dan siapa yang bisa membuktikan bahwa jawaban tersebut dihasilkan seperti yang diklaim?
Itu adalah percakapan yang layak untuk diperhatikan.
@OpenGradient #OPG $OPG