Pelanggan masa depan dari AI mungkin bukan manusia.
Beberapa tahun yang lalu, saya mungkin akan menganggap ide itu sepele. Kita masih menganggap AI sebagai alat yang dibangun untuk manusia. Kita bertanya, AI memberikan jawaban, dan manusia yang membuat keputusan akhir.
Tapi saya tidak yakin itu akan selalu seperti itu.
Seiring sistem AI menjadi lebih mampu, mereka akan semakin berinteraksi dengan sistem AI lainnya. Satu model mungkin menghasilkan informasi, yang lain menganalisisnya, dan yang lain lagi mengambil tindakan. Banyak dari itu bisa terjadi tanpa ada yang meninjau setiap langkah.
Yang menarik bagi saya adalah bahwa sebagian besar percakapan tentang AI masih berputar di sekitar model yang lebih besar, tolok ukur yang lebih baik, dan biaya yang lebih rendah. Hal-hal itu jelas penting.
Tapi saya terus kembali ke pertanyaan yang berbeda.
Apa yang terjadi ketika kecerdasan menjadi umum?
Hari ini, kita menilai AI berdasarkan output karena manusia masih terlibat. Kita bisa berhenti, mempertanyakan sesuatu, dan meminta pendapat kedua.
Mesin tidak benar-benar melakukan itu.
Dan jika sistem AI semakin bergantung pada output dari sistem AI lainnya, hanya mempercayai bahwa semuanya berjalan seperti yang diharapkan mungkin tidak cukup.
Itu sebagian alasan mengapa @OpenGradient OpenGradient menarik perhatian saya.
Mungkin tantangan berikutnya dalam AI bukanlah membangun model yang lebih pintar.
Mungkin itu adalah membangun sistem di mana kecerdasan dapat diverifikasi alih-alih sekadar diasumsikan.
Fokus OpenGradient pada eksekusi AI yang transparan dan dapat diverifikasi terasa semakin relevan seiring sistem AI menjadi lebih otonom.
Semakin saya memikirkannya, semakin saya merasa bahwa menghasilkan kecerdasan bukanlah masalah tersulit di depan.
Memahami apakah kecerdasan itu berperilaku seperti yang kita harapkan mungkin sama pentingnya.
Dan jika itu terjadi, infrastruktur di balik AI bisa menjadi sama pentingnya dengan model itu sendiri.
#opg @OpenGradient $OPG
Seiring AI menjadi semakin otonom, apa yang akan lebih penting?
Beberapa tahun yang lalu, saya mungkin akan menganggap ide itu sepele. Kita masih menganggap AI sebagai alat yang dibangun untuk manusia. Kita bertanya, AI memberikan jawaban, dan manusia yang membuat keputusan akhir.
Tapi saya tidak yakin itu akan selalu seperti itu.
Seiring sistem AI menjadi lebih mampu, mereka akan semakin berinteraksi dengan sistem AI lainnya. Satu model mungkin menghasilkan informasi, yang lain menganalisisnya, dan yang lain lagi mengambil tindakan. Banyak dari itu bisa terjadi tanpa ada yang meninjau setiap langkah.
Yang menarik bagi saya adalah bahwa sebagian besar percakapan tentang AI masih berputar di sekitar model yang lebih besar, tolok ukur yang lebih baik, dan biaya yang lebih rendah. Hal-hal itu jelas penting.
Tapi saya terus kembali ke pertanyaan yang berbeda.
Apa yang terjadi ketika kecerdasan menjadi umum?
Hari ini, kita menilai AI berdasarkan output karena manusia masih terlibat. Kita bisa berhenti, mempertanyakan sesuatu, dan meminta pendapat kedua.
Mesin tidak benar-benar melakukan itu.
Dan jika sistem AI semakin bergantung pada output dari sistem AI lainnya, hanya mempercayai bahwa semuanya berjalan seperti yang diharapkan mungkin tidak cukup.
Itu sebagian alasan mengapa @OpenGradient OpenGradient menarik perhatian saya.
Mungkin tantangan berikutnya dalam AI bukanlah membangun model yang lebih pintar.
Mungkin itu adalah membangun sistem di mana kecerdasan dapat diverifikasi alih-alih sekadar diasumsikan.
Fokus OpenGradient pada eksekusi AI yang transparan dan dapat diverifikasi terasa semakin relevan seiring sistem AI menjadi lebih otonom.
Semakin saya memikirkannya, semakin saya merasa bahwa menghasilkan kecerdasan bukanlah masalah tersulit di depan.
Memahami apakah kecerdasan itu berperilaku seperti yang kita harapkan mungkin sama pentingnya.
Dan jika itu terjadi, infrastruktur di balik AI bisa menjadi sama pentingnya dengan model itu sendiri.
#opg @OpenGradient $OPG
Seiring AI menjadi semakin otonom, apa yang akan lebih penting?
Smarter intelligence
🧠
Verifiable intelligence✅️
20 jam lagi