#opg $OPG
Satu hal yang belakangan ini saya pikirkan adalah kita menghabiskan terlalu banyak waktu untuk mengukur seberapa pintar AI, dan tidak cukup waktu untuk bertanya bagaimana AI membuktikan kebenarannya.
Saya mendapati diri saya memikirkan ini lebih banyak saat mengikuti @OpenGradient . Saat AI mulai menggabungkan teks, gambar, audio, video, dan bahkan data sensor, skor kepercayaan menjadi kurang meyakinkan hanya dengan sendirinya. Sebuah model bisa terdengar yakin sementara sumber yang berbeda diam-diam mengarah ke arah yang berbeda. Di situlah hal-hal menjadi menarik.
Bagi saya, evolusi berikutnya dari AI bukan hanya tentang menambahkan lebih banyak modalitas. Ini tentang menciptakan sistem di mana modalitas tersebut benar-benar saling menantang sebelum mencapai jawaban akhir. Bayangkan sebuah AI yang tidak hanya menggabungkan informasi, tetapi memeriksa apakah potongan bukti independen menceritakan kisah yang sama... Itu terasa jauh lebih dekat dengan penalaran nyata dibandingkan pendekatan "probabilitas tertinggi menang" saat ini.
Itu salah satu alasan ($OPG ) menarik perhatian saya. Nilainya tidak hanya dalam menghasilkan output lebih cepat, tetapi dalam membuat output tersebut lebih mudah dipercaya. Jika setiap inferensi penting dapat didukung oleh bukti yang dapat diverifikasi di berbagai input, AI menjadi lebih dari sekadar mesin prediksi, ia mulai menjadi sistem yang dapat bertanggung jawab.
Tentu saja, ada trade off. Verifikasi tambahan berarti perhitungan tambahan, biaya lebih tinggi, dan kadang-kadang respons yang lebih lambat. Tapi mungkin itu adalah perbandingan yang salah. Di area di mana kesalahan benar-benar penting, kecepatan tanpa bukti bisa jauh lebih mahal daripada menunggu sedikit lebih lama.
Saya tidak berpikir pemenang masa depan akan hanya membangun model AI tercepat. Mereka akan membangun sistem yang dapat menjelaskan mengapa sebuah kesimpulan layak untuk dipercaya, bukannya hanya mengklaim bahwa itu benar.
Jika AI akan membuat keputusan yang mempengaruhi dunia nyata, apakah kita harus terus menghargai kepercayaan... atau harus mulai menuntut bukti?
Satu hal yang belakangan ini saya pikirkan adalah kita menghabiskan terlalu banyak waktu untuk mengukur seberapa pintar AI, dan tidak cukup waktu untuk bertanya bagaimana AI membuktikan kebenarannya.
Saya mendapati diri saya memikirkan ini lebih banyak saat mengikuti @OpenGradient . Saat AI mulai menggabungkan teks, gambar, audio, video, dan bahkan data sensor, skor kepercayaan menjadi kurang meyakinkan hanya dengan sendirinya. Sebuah model bisa terdengar yakin sementara sumber yang berbeda diam-diam mengarah ke arah yang berbeda. Di situlah hal-hal menjadi menarik.
Bagi saya, evolusi berikutnya dari AI bukan hanya tentang menambahkan lebih banyak modalitas. Ini tentang menciptakan sistem di mana modalitas tersebut benar-benar saling menantang sebelum mencapai jawaban akhir. Bayangkan sebuah AI yang tidak hanya menggabungkan informasi, tetapi memeriksa apakah potongan bukti independen menceritakan kisah yang sama... Itu terasa jauh lebih dekat dengan penalaran nyata dibandingkan pendekatan "probabilitas tertinggi menang" saat ini.
Itu salah satu alasan ($OPG ) menarik perhatian saya. Nilainya tidak hanya dalam menghasilkan output lebih cepat, tetapi dalam membuat output tersebut lebih mudah dipercaya. Jika setiap inferensi penting dapat didukung oleh bukti yang dapat diverifikasi di berbagai input, AI menjadi lebih dari sekadar mesin prediksi, ia mulai menjadi sistem yang dapat bertanggung jawab.
Tentu saja, ada trade off. Verifikasi tambahan berarti perhitungan tambahan, biaya lebih tinggi, dan kadang-kadang respons yang lebih lambat. Tapi mungkin itu adalah perbandingan yang salah. Di area di mana kesalahan benar-benar penting, kecepatan tanpa bukti bisa jauh lebih mahal daripada menunggu sedikit lebih lama.
Saya tidak berpikir pemenang masa depan akan hanya membangun model AI tercepat. Mereka akan membangun sistem yang dapat menjelaskan mengapa sebuah kesimpulan layak untuk dipercaya, bukannya hanya mengklaim bahwa itu benar.
Jika AI akan membuat keputusan yang mempengaruhi dunia nyata, apakah kita harus terus menghargai kepercayaan... atau harus mulai menuntut bukti?