Semua orang berasumsi bahwa perlombaan AI berikutnya akan dimenangkan oleh siapa pun yang membangun model yang paling cerdas.
Saya tidak yakin.
Narasi saat ini hampir sepenuhnya berfokus pada kemampuan. Model yang lebih besar. Lebih banyak parameter. Pelatihan yang lebih cepat. Namun, saat AI semakin terintegrasi dalam pengambilan keputusan, masalah yang berbeda muncul: bagaimana kita tahu kapan output sebenarnya dapat dipercaya?
Sebuah model bisa terdengar percaya diri dan tetap saja salah.
Itulah mengapa saya pikir salah satu peluang yang paling diabaikan dalam AI adalah verifikasi. Bukan menghasilkan jawaban, tetapi membuktikannya. Bukan hanya meningkatkan kecerdasan, tetapi meningkatkan kepercayaan dalam kecerdasan.
Bagian yang menarik adalah bahwa kepercayaan tidak otomatis meningkat ketika model membaik. Dalam beberapa cara, hal yang sebaliknya terjadi. Sistem yang lebih kuat dapat menciptakan lebih banyak ketidakpastian karena penalaran mereka menjadi lebih sulit untuk diperiksa.
Di sinilah proyek seperti @OpenGradient menarik perhatian saya.
Percakapan seputar infrastruktur AI sering kali berputar di sekitar komputasi dan kinerja model. Namun, inferensi yang transparan, output yang dapat diverifikasi, dan mekanisme kepercayaan terdesentralisasi mungkin menjadi bagian penting dari tumpukan. Jika AI akan mempengaruhi pasar, bisnis, dan keputusan sehari-hari, orang-orang akan membutuhkan cara untuk memverifikasi apa yang mereka lihat daripada sekadar menerimanya.
Mungkin pemenang terbesar dari siklus AI berikutnya bukanlah model itu sendiri.
Mungkin mereka adalah sistem yang membuat model tersebut dapat dipercaya.
Bagaimana jika penghalang nyata AI akhirnya adalah bukti, bukan prediksi?
$OPG #OPG
Saya tidak yakin.
Narasi saat ini hampir sepenuhnya berfokus pada kemampuan. Model yang lebih besar. Lebih banyak parameter. Pelatihan yang lebih cepat. Namun, saat AI semakin terintegrasi dalam pengambilan keputusan, masalah yang berbeda muncul: bagaimana kita tahu kapan output sebenarnya dapat dipercaya?
Sebuah model bisa terdengar percaya diri dan tetap saja salah.
Itulah mengapa saya pikir salah satu peluang yang paling diabaikan dalam AI adalah verifikasi. Bukan menghasilkan jawaban, tetapi membuktikannya. Bukan hanya meningkatkan kecerdasan, tetapi meningkatkan kepercayaan dalam kecerdasan.
Bagian yang menarik adalah bahwa kepercayaan tidak otomatis meningkat ketika model membaik. Dalam beberapa cara, hal yang sebaliknya terjadi. Sistem yang lebih kuat dapat menciptakan lebih banyak ketidakpastian karena penalaran mereka menjadi lebih sulit untuk diperiksa.
Di sinilah proyek seperti @OpenGradient menarik perhatian saya.
Percakapan seputar infrastruktur AI sering kali berputar di sekitar komputasi dan kinerja model. Namun, inferensi yang transparan, output yang dapat diverifikasi, dan mekanisme kepercayaan terdesentralisasi mungkin menjadi bagian penting dari tumpukan. Jika AI akan mempengaruhi pasar, bisnis, dan keputusan sehari-hari, orang-orang akan membutuhkan cara untuk memverifikasi apa yang mereka lihat daripada sekadar menerimanya.
Mungkin pemenang terbesar dari siklus AI berikutnya bukanlah model itu sendiri.
Mungkin mereka adalah sistem yang membuat model tersebut dapat dipercaya.
Bagaimana jika penghalang nyata AI akhirnya adalah bukti, bukan prediksi?
$OPG #OPG