Saya akan jujur: Saya tidak menganggap ini serius sampai saya melihat tim penyebaran berdebat tentang satu kata: “disetujui.” Bukan “apakah ini berhasil,” bukan “apakah ini aman,” hanya… disetujui. Robot telah berjalan dengan baik selama berminggu-minggu. Kemudian seorang pelanggan meminta bukti bahwa kebijakan keputusan tertentu telah disetujui. Integrator mengatakan ya. Vendor mengatakan “kami menyediakan modelnya, kami tidak menyetujui penyebaran.” Tim kepatuhan pelanggan mengatakan “tunjukkan catatannya.” Dan tiba-tiba semua orang menyadari bahwa mereka telah menggunakan kata yang sama untuk berarti hal yang berbeda.
Itulah yang terjadi ketika robot otonom dan agen AI mulai membuat keputusan di seluruh organisasi. Sistem teknis menjadi masalah terjemahan antara manusia. Setiap pihak memiliki prosesnya sendiri, catatannya sendiri, insentifnya sendiri. Pembuat ingin kecepatan. Operator ingin waktu operasional. Lembaga ingin mengurangi eksposur. Regulator ingin timeline yang bertahan dari pemeriksaan silang. Dan di tengah-tengah, robot terus bertindak, berdasarkan rangkaian perubahan yang tidak dimiliki sepenuhnya oleh satu organisasi pun.
Kebanyakan “solusi” terasa canggung karena mereka bergantung pada kepercayaan bersama pada saat kepercayaan menghilang. Catatan audit internal tidak berpindah. Tiket tidak menangkap keputusan informal. Thread email berantakan dan selektif. Dan ketika uang terlibat — penalti, asuransi, penyelesaian — orang menjadi berhati-hati dengan cara yang tidak selalu jujur.
@Fabric Foundation Protokol hanya masuk akal bagi saya sebagai infrastruktur untuk makna bersama: cara untuk membuat persetujuan dan perubahan dapat diverifikasi di seluruh pihak, sehingga “disetujui” tidak lagi menjadi perdebatan. Pengguna pertama adalah operator berisiko tinggi: kesehatan, logistik, penyebaran publik, penjamin. Ini mungkin berhasil jika dapat mengurangi rasa sakit audit dan biaya sengketa. Ini gagal jika menambah gesekan, atau jika peserta menganggap catatan bersama sebagai opsional ketika tidak nyaman.