#opg $OPG Minggu lalu, saya memperhatikan sesuatu yang aneh saat beralih antara berbagai alat AI.
Semakin transparan sebuah sistem berusaha, semakin banyak dasbor, pengaturan, log, metrik, dan indikator status yang muncul di sekitarnya. Setiap lapisan dirancang untuk meningkatkan kepercayaan, namun entah bagaimana pengalaman itu terasa lebih rumit, bukan lebih sederhana.
Itu membuat saya berpikir tentang pertanyaan yang belum pernah saya pertimbangkan sebelumnya:
Seberapa banyak kontrol yang sebenarnya kita dapatkan dari melihat lebih banyak?
Saat menjelajahi @OpenGradient saya terus memikirkan ide itu.
Banyak infrastruktur modern menganggap visibilitas sebagai dasar kepercayaan. Jika pengguna tidak yakin, ungkapkan lebih banyak informasi. Jika operator khawatir, tambahkan lebih banyak pemantauan. Jika suatu proses terasa tidak jelas, buatlah lapisan observabilitas tambahan.
Logikanya masuk akal.
Tapi itu juga menciptakan efek samping yang menarik.
Saat sistem menjadi lebih terlihat, mereka sering kali menjadi lebih sulit untuk dipahami. Pengguna berakhir menatap kumpulan sinyal yang terus berkembang tanpa benar-benar memahami mana yang penting.
Itulah mengapa psikologi sistem yang tidak terlihat memikat saya.
Bukan tidak terlihat karena mereka menyembunyikan informasi, tetapi tidak terlihat karena mereka mengurangi kebutuhan untuk terus-menerus memeriksanya.
@OpenGradient pendekatan terhadap eksekusi yang dapat diverifikasi mengarah pada jenis desain itu. Alih-alih meminta pengguna untuk memantau setiap tahap proses, tujuannya adalah untuk menciptakan jaminan yang cukup kuat sehingga kepercayaan berasal dari verifikasi, bukan observasi.
Dengan kata lain, kepercayaan tidak datang dari mengamati mesin bekerja.
Ia datang dari mengetahui bahwa mesin dapat membuktikan bahwa ia bekerja dengan benar.
Itu terasa seperti pergeseran halus, tetapi mengubah hubungan antara orang dan teknologi.
Selama bertahun-tahun, kita telah menganggap transparansi sebagai jawaban utama untuk ketidakpastian.
Mungkin langkah selanjutnya bukanlah membuat sistem lebih terlihat.
Mungkin itu adalah membangun sistem yang membutuhkan perhatian lebih sedikit di tempat pertama.
Infrastruktur yang paling dapat diandalkan dalam hidup kita seringkali adalah infrastruktur yang hampir tidak kita pikirkan sama sekali $OPG #opg
Semakin transparan sebuah sistem berusaha, semakin banyak dasbor, pengaturan, log, metrik, dan indikator status yang muncul di sekitarnya. Setiap lapisan dirancang untuk meningkatkan kepercayaan, namun entah bagaimana pengalaman itu terasa lebih rumit, bukan lebih sederhana.
Itu membuat saya berpikir tentang pertanyaan yang belum pernah saya pertimbangkan sebelumnya:
Seberapa banyak kontrol yang sebenarnya kita dapatkan dari melihat lebih banyak?
Saat menjelajahi @OpenGradient saya terus memikirkan ide itu.
Banyak infrastruktur modern menganggap visibilitas sebagai dasar kepercayaan. Jika pengguna tidak yakin, ungkapkan lebih banyak informasi. Jika operator khawatir, tambahkan lebih banyak pemantauan. Jika suatu proses terasa tidak jelas, buatlah lapisan observabilitas tambahan.
Logikanya masuk akal.
Tapi itu juga menciptakan efek samping yang menarik.
Saat sistem menjadi lebih terlihat, mereka sering kali menjadi lebih sulit untuk dipahami. Pengguna berakhir menatap kumpulan sinyal yang terus berkembang tanpa benar-benar memahami mana yang penting.
Itulah mengapa psikologi sistem yang tidak terlihat memikat saya.
Bukan tidak terlihat karena mereka menyembunyikan informasi, tetapi tidak terlihat karena mereka mengurangi kebutuhan untuk terus-menerus memeriksanya.
@OpenGradient pendekatan terhadap eksekusi yang dapat diverifikasi mengarah pada jenis desain itu. Alih-alih meminta pengguna untuk memantau setiap tahap proses, tujuannya adalah untuk menciptakan jaminan yang cukup kuat sehingga kepercayaan berasal dari verifikasi, bukan observasi.
Dengan kata lain, kepercayaan tidak datang dari mengamati mesin bekerja.
Ia datang dari mengetahui bahwa mesin dapat membuktikan bahwa ia bekerja dengan benar.
Itu terasa seperti pergeseran halus, tetapi mengubah hubungan antara orang dan teknologi.
Selama bertahun-tahun, kita telah menganggap transparansi sebagai jawaban utama untuk ketidakpastian.
Mungkin langkah selanjutnya bukanlah membuat sistem lebih terlihat.
Mungkin itu adalah membangun sistem yang membutuhkan perhatian lebih sedikit di tempat pertama.
Infrastruktur yang paling dapat diandalkan dalam hidup kita seringkali adalah infrastruktur yang hampir tidak kita pikirkan sama sekali $OPG #opg