SIAPA YANG MELATIH SIAPA?
Kita menghabiskan banyak waktu membahas bagaimana manusia melatih AI.
Hampir tidak ada yang membahas sebaliknya.
Namun, itu mungkin sudah terjadi.
Setiap kali AI merangkum informasi, ia memengaruhi apa yang kita perhatikan.
Setiap kali ia menyarankan jawaban, ia memengaruhi apa yang kita pertimbangkan.
Setiap kali ia menghasilkan ide, ia memengaruhi dari mana pemikiran kita dimulai.
Itu tidak berarti AI menggantikan penilaian manusia.
Tapi itu berarti penilaian manusia semakin dibentuk oleh AI.
Dan itu mungkin menciptakan sesuatu yang baru:
Sebuah Celah Verifikasi.
Untuk sebagian besar sejarah, orang membuat keputusan berdasarkan informasi yang bisa mereka periksa, tantang, atau verifikasi sendiri.
AI mengubah persamaan itu.
Untuk pertama kalinya, jutaan orang dapat bertindak berdasarkan informasi yang tidak pernah mereka hasilkan, penalaran yang tidak pernah mereka periksa, dan kesimpulan yang tidak pernah mereka verifikasi.
Semakin pintar AI, semakin besar celah itu bisa tumbuh.
Kebanyakan orang berpikir tantangan utama AI adalah membangun lebih banyak kecerdasan.
Saya tidak yakin itu benar.
Tantangan utama era AI mungkin adalah menutup celah antara kecerdasan dan kepercayaan.
Karena sekali suatu sistem mulai memengaruhi bagaimana orang belajar, memutuskan, dan bernalar, kepercayaan menjadi bagian kritis dari persamaan.
Apa yang terjadi ketika orang berhenti mempertanyakan jawaban yang tidak mereka ciptakan?
Apa yang terjadi ketika kepercayaan menjadi otomatis?
Itu bukan hanya masalah teknologi.
Ini adalah masalah kemanusiaan.
Inilah sebabnya proyek seperti @OpenGradient dan $OPG menarik.
Jaringan ini sudah memproses jutaan inferensi dan menghasilkan ratusan ribu bukti kriptografi.
Sinyal yang lebih besar adalah apa yang diwakili oleh bukti-bukti itu:
Sebuah pergeseran dari kecerdasan yang dihasilkan menjadi kecerdasan yang dapat dipertanggungjawabkan.
Prediksi saya:
Lomba AI di masa depan tidak akan dimenangkan oleh sistem yang menghasilkan jawaban terbanyak.
Ini akan dimenangkan oleh sistem yang membuat kepercayaan dapat diskalakan.
š Haruskah kecerdasan dipercaya secara default, atau diverifikasi dengan desain?
#OPG
$XCX $SYN
Kita menghabiskan banyak waktu membahas bagaimana manusia melatih AI.
Hampir tidak ada yang membahas sebaliknya.
Namun, itu mungkin sudah terjadi.
Setiap kali AI merangkum informasi, ia memengaruhi apa yang kita perhatikan.
Setiap kali ia menyarankan jawaban, ia memengaruhi apa yang kita pertimbangkan.
Setiap kali ia menghasilkan ide, ia memengaruhi dari mana pemikiran kita dimulai.
Itu tidak berarti AI menggantikan penilaian manusia.
Tapi itu berarti penilaian manusia semakin dibentuk oleh AI.
Dan itu mungkin menciptakan sesuatu yang baru:
Sebuah Celah Verifikasi.
Untuk sebagian besar sejarah, orang membuat keputusan berdasarkan informasi yang bisa mereka periksa, tantang, atau verifikasi sendiri.
AI mengubah persamaan itu.
Untuk pertama kalinya, jutaan orang dapat bertindak berdasarkan informasi yang tidak pernah mereka hasilkan, penalaran yang tidak pernah mereka periksa, dan kesimpulan yang tidak pernah mereka verifikasi.
Semakin pintar AI, semakin besar celah itu bisa tumbuh.
Kebanyakan orang berpikir tantangan utama AI adalah membangun lebih banyak kecerdasan.
Saya tidak yakin itu benar.
Tantangan utama era AI mungkin adalah menutup celah antara kecerdasan dan kepercayaan.
Karena sekali suatu sistem mulai memengaruhi bagaimana orang belajar, memutuskan, dan bernalar, kepercayaan menjadi bagian kritis dari persamaan.
Apa yang terjadi ketika orang berhenti mempertanyakan jawaban yang tidak mereka ciptakan?
Apa yang terjadi ketika kepercayaan menjadi otomatis?
Itu bukan hanya masalah teknologi.
Ini adalah masalah kemanusiaan.
Inilah sebabnya proyek seperti @OpenGradient dan $OPG menarik.
Jaringan ini sudah memproses jutaan inferensi dan menghasilkan ratusan ribu bukti kriptografi.
Sinyal yang lebih besar adalah apa yang diwakili oleh bukti-bukti itu:
Sebuah pergeseran dari kecerdasan yang dihasilkan menjadi kecerdasan yang dapat dipertanggungjawabkan.
Prediksi saya:
Lomba AI di masa depan tidak akan dimenangkan oleh sistem yang menghasilkan jawaban terbanyak.
Ini akan dimenangkan oleh sistem yang membuat kepercayaan dapat diskalakan.
š Haruskah kecerdasan dipercaya secara default, atau diverifikasi dengan desain?
#OPG
$XCX $SYN