#opg $OPG @OpenGradient Satu pertanyaan tentang AI terus muncul bagi saya: "pergeseran sebenarnya bukanlah seberapa pintar jawabannya, tetapi apakah kita bisa membuktikan bagaimana jawaban itu dihasilkan."
Hari ini, kebanyakan orang menggunakan AI dengan cara yang sederhana.
Kamu mengajukan pertanyaan, mendapatkan jawaban, dan jika terdengar benar, kamu melanjutkan. Alasan di baliknya tetap tidak terlihat.
Di sinilah AI yang dapat diverifikasi mengubah gambaran. Alih-alih mengatakan, "Ini hasilnya," ia juga dapat memberikan bukti bahwa output dihasilkan dengan benar sesuai aturan yang ditetapkan. Proyek seperti OpenGradient sedang menjelajahi arah ini.
Yang paling menarik bagi saya bukanlah teknologi itu sendiri, tetapi kesenjangan antara apa yang dapat dibuktikan oleh sistem dan apa yang sebenarnya peduli oleh pengguna. Kebanyakan orang tidak akan meminta bukti, dan bahkan lebih sedikit yang akan memverifikasinya. Jika verifikasi bekerja dengan sempurna, itu menjadi tidak terlihat seperti HTTPS atau cadangan cloud. Kita jarang memikirkannya sampai sesuatu menjadi salah.
Jadi, untuk siapa AI yang dapat diverifikasi ini sebenarnya?
Pengguna akhir, atau sistem AI yang berkomunikasi dengan sistem AI lainnya?
Ada juga trade-off.
Verifikasi yang lebih kuat sering berarti lebih banyak komputasi, lebih banyak latensi, dan lebih banyak kompleksitas rekayasa.
Jika pengguna tidak pernah menyadarinya, apakah biaya tambahan itu sepadan?
Namun, saya tidak berpikir itu bisa diabaikan. Dalam keuangan, agen otonom, dan aplikasi berisiko tinggi lainnya, mempercayai AI hanya karena "tampak benar" tidak cukup. Kita sudah tahu AI bisa terdengar percaya diri meskipun salah.
Mungkin masa depan kepercayaan AI bukan tentang orang yang memeriksa bukti sendiri. Mungkin verifikasi akan beroperasi secara diam-diam di bawah permukaan, membuat AI lebih dapat diandalkan tanpa mengubah pengalaman pengguna.
Atau mungkin itu berubah menjadi infrastruktur mahal yang hanya penting dalam kasus-kasus khusus.
Apa pendapatmu, apakah pengguna akan pernah peduli tentang AI yang dapat diverifikasi secara langsung, atau akankah keberhasilan terbesarnya menjadi sepenuhnya tidak terlihat?
Hari ini, kebanyakan orang menggunakan AI dengan cara yang sederhana.
Kamu mengajukan pertanyaan, mendapatkan jawaban, dan jika terdengar benar, kamu melanjutkan. Alasan di baliknya tetap tidak terlihat.
Di sinilah AI yang dapat diverifikasi mengubah gambaran. Alih-alih mengatakan, "Ini hasilnya," ia juga dapat memberikan bukti bahwa output dihasilkan dengan benar sesuai aturan yang ditetapkan. Proyek seperti OpenGradient sedang menjelajahi arah ini.
Yang paling menarik bagi saya bukanlah teknologi itu sendiri, tetapi kesenjangan antara apa yang dapat dibuktikan oleh sistem dan apa yang sebenarnya peduli oleh pengguna. Kebanyakan orang tidak akan meminta bukti, dan bahkan lebih sedikit yang akan memverifikasinya. Jika verifikasi bekerja dengan sempurna, itu menjadi tidak terlihat seperti HTTPS atau cadangan cloud. Kita jarang memikirkannya sampai sesuatu menjadi salah.
Jadi, untuk siapa AI yang dapat diverifikasi ini sebenarnya?
Pengguna akhir, atau sistem AI yang berkomunikasi dengan sistem AI lainnya?
Ada juga trade-off.
Verifikasi yang lebih kuat sering berarti lebih banyak komputasi, lebih banyak latensi, dan lebih banyak kompleksitas rekayasa.
Jika pengguna tidak pernah menyadarinya, apakah biaya tambahan itu sepadan?
Namun, saya tidak berpikir itu bisa diabaikan. Dalam keuangan, agen otonom, dan aplikasi berisiko tinggi lainnya, mempercayai AI hanya karena "tampak benar" tidak cukup. Kita sudah tahu AI bisa terdengar percaya diri meskipun salah.
Mungkin masa depan kepercayaan AI bukan tentang orang yang memeriksa bukti sendiri. Mungkin verifikasi akan beroperasi secara diam-diam di bawah permukaan, membuat AI lebih dapat diandalkan tanpa mengubah pengalaman pengguna.
Atau mungkin itu berubah menjadi infrastruktur mahal yang hanya penting dalam kasus-kasus khusus.
Apa pendapatmu, apakah pengguna akan pernah peduli tentang AI yang dapat diverifikasi secara langsung, atau akankah keberhasilan terbesarnya menjadi sepenuhnya tidak terlihat?