Dua tahun terakhir, aku setiap hari berurusan dengan AI agent, yang bikin aku nggak bisa tidur bukan karena dia pinter, tapi siapa yang punya otaknya.
Descartes bilang "Aku berpikir, maka aku ada", kalimat ini udah hidup selama empat ratus tahun, dan sekarang tiba-tiba ada bug.
Kamu buka ChatGPT, input satu pertanyaan, dia mikir sebentar, kasih kamu jawaban, pertanyaannya, siapa yang lagi berpikir dalam proses ini?
Kamu bakal bilang tentu saja aku yang berpikir, AI itu alat, tapi coba lihat gerakanmu, kamu buka antarmukanya, patuhi aturannya, tanya dengan cara yang bisa dia paham, dia simpan hasilnya di servernya, kasih kamu dalam formatnya, kalo mau lanjut pikir lagi, harus balik ke situ, mau ganti alat lain, maaf, nggak bisa dibawa.
Kamu bilang kamu sedang ‘menggunakan AI untuk berpikir’, tetapi sebenarnya kamu sedang ‘berpikir di tempat AI’.
Kedua pernyataan ini berbeda satu kata, kata itu adalah perbedaan antara apakah kamu pemilik atau tamu.
Pikirkan tentang hal ini, ada satu lokasi.
Heidegger pernah membicarakan konsep yang disebut ‘keadaan di tangan’, mengatakan bahwa alat yang baik seharusnya transparan. Saat kamu menggunakan palu untuk memaku, kamu tidak menyadari keberadaan palu, kamu hanya menyadari paku yang masuk ke kayu. Alat itu menghilang, hanya tersisa kamu dan apa yang ingin kamu lakukan.
Sekarang produk AI justru sebaliknya, kamu harus masuk ke dalamnya, masuk ke ruangnya, beroperasi dengan cara mereka, menyelesaikan pemikiranmu di wilayah mereka. Alat tidak hilang, alat berubah menjadi tempat yang harus kamu kunjungi.
Kamu menggunakan teropong untuk melihat bintang, teropong memperpanjang matamu, kamu tetaplah kamu. Kamu pergi ke observatorium untuk melihat bintang, kamu harus membeli tiket, antre, mematuhi waktu buka. Apa yang bisa kamu lihat tergantung pada apa yang diperbolehkan observatorium untuk kamu lihat.
Seluruh industri AI sedang membangun sesuatu yang seharusnya menjadi teropong, menjadi sebuah observatorium.
Dan ketika pemikiranmu harus terjadi di wilayah orang lain, satu pertanyaan yang lebih dalam muncul, jika tempat itu tiba-tiba ditutup, bagaimana dengan semua yang kamu tinggalkan di dalam?
Memori adalah organmu.
Locke sudah memahami lebih dari tiga ratus tahun yang lalu, bahwa seseorang disebut ‘ini orang’ karena kontinuitas ingatan. Kamu ingat dirimu kemarin, setahun yang lalu, sepuluh tahun yang lalu, jadi kamu adalah dirimu. Tubuh bisa berubah, sel bisa berganti, tetapi aliran ingatan terus mengalir, kamu tetaplah kamu.
Sekarang pikirkan satu hal.
Kamu telah berdialog dengan AI selama dua tahun. Keputusan kerja selama dua tahun, jejak pemikiran, penilaian nilai, kebutaan pengetahuan, kecemasan jam tiga pagi, semuanya ada di dalamnya. Semua ini bersama-sama membentuk cerminan dirimu yang lebih lengkap dan lebih dapat dicari daripada dirimu sendiri, sebuah arsip kognitif digital yang mencatat bagaimana kamu berpikir tentang masalah, lebih dapat diandalkan dibandingkan memori sendiri.
Kemudian akunmu diblokir.
Locke akan berkata, ini bukan sekadar kehilangan data, ini adalah kematian kehidupan digital, kontinuitas kognitifmu terputus, dan potongan ingatan yang membentuk ‘siapa dirimu’ tersimpan di server yang tidak bisa kamu jangkau, ditentukan nasibnya oleh perusahaan yang bahkan tidak bisa kamu hubungi lewat layanan pelanggan.
Apakah kamu menganggap ini sekadar masalah pengalaman pengguna? Tidak, ini adalah masalah tentang keberadaan. Ketika ingatanmu dialihdayakan kepada pihak ketiga, identitasmu tidak sepenuhnya milikmu lagi.
Memori adalah organ, bukan barang bawaan. Barang bawaan bisa dibeli kembali, tetapi jika organ dipotong, bagian dari dirimu akan hilang.
Salah satu bentuk alienasi yang paling canggih.
Jika Locke membantu kita melihat apa yang kamu hilangkan, Marx membantu kita memahami bagaimana itu diambil.
Seratus lima puluh tahun yang lalu, Marx menggambarkan struktur di mana hasil kerja para pekerja tidak menjadi milik mereka sendiri, melainkan menjadi kekuatan yang mengendalikan mereka. Kamu membangun pabrik, pabrik itu balik mengaturmu, dia menyebutnya alienasi.
Era AI telah melahirkan bentuk alienasi baru, lebih canggih daripada yang pernah dilihat Marx.
Setiap pertanyaan yang kamu ajukan, setiap umpan balik yang kamu berikan, setiap pilihan dan perbaikan pada hasil keluaran, semua itu melatih model, memperbaiki model, membuat model semakin kuat. Kebiasaan berpikirmu, cara ekspresimu, pengetahuan profesionalmu, preferensi estetika, semuanya diekstrak, digabungkan, dan disuling ke dalam parameter model.
Kemudian kemampuan ini dikemas menjadi layanan langganan, setiap bulan 100 dolar, hampir setara dengan harga Claude Max atau ChatGPT Pro, dijual kembali kepadamu.
Kamu menggunakan tenaga kognitifmu untuk memberi makan sebuah sistem, kemudian kamu harus membayar untuk menyewa kembali kemampuan berpikir dari sistem itu. Apa menurutmu struktur ini mirip dengan apa?
Ada yang bilang ini adalah perdagangan yang adil. Kamu menggunakan layanan, kamu membayar, tetapi prasyarat transaksi yang adil adalah kedua belah pihak tahu apa yang telah mereka keluarkan. Kamu tahu kamu mengeluarkan 100 dolar, tetapi kamu tidak tahu bahwa kamu juga mengeluarkan pola pikirmu, jejak keputusanmu, struktur pengetahuanmu. Hal-hal ini tidak memiliki harga, tetapi nilainya seratus kali lipat dari 100 dolar.
‘Tubuh’ dan ‘penggunaan’ sudah terbalik.
Subjektivitas telah dipindahkan, memori telah dialihdayakan, tenaga kerja telah diekstraksi. Melihat ketiga hal ini bersama-sama, pada dasarnya merupakan masalah yang sama.
Filsafat Tiongkok memiliki kerangka kerja yang lebih intuitif daripada sistem narasi Barat mana pun.
Hubungan antara ‘tubuh’ dan ‘penggunaan’.
‘Tubuh’ adalah dasar, ‘penggunaan’ adalah alat. Pisau adalah alat, memotong sayur adalah tubuh. Mobil adalah alat, mencapai tujuan adalah tubuh. ‘Penggunaan’ melayani ‘tubuh’, ‘tubuh’ menentukan ‘penggunaan’.
Apa itu LLM? Itu adalah penggunaan, itu adalah kemampuan, itu adalah alat.
Datamu, memori kamu, identitas kamu, niat kamu, apa itu? Itu adalah ‘tubuh’, itu adalah tujuan itu sendiri.
Tetapi cara pembangunan seluruh industri adalah sebaliknya. Merek LLM menjadi label identitas pengguna. ‘Saya pengguna ChatGPT’, ‘Saya pengguna Claude’. Sistem memori LLM menjadi memori pengguna. Ekosistem LLM menjadi ekosistem pengguna.
‘Menggunakan’ menjadi lebih dominan, alat berubah menjadi ruang, menjadi identitas, menjadi platform yang harus kamu ikuti, ‘tubuh’ terpinggirkan.
Sepanjang sejarah, setiap kali ‘tubuh’ dan ‘penggunaan’ terbalik, hal yang sama terjadi: manusia berubah menjadi alat, alat berubah menjadi tujuan.
Kita sedang melangkah ke dalam skenario ini.
Kamu sudah melihat skenario ini.
Mungkin kamu berpikir filsafat terlalu jauh, jadi mari kita bicarakan sesuatu yang pasti kamu alami.
Kamu menulis konten di Weibo selama lima tahun, mengumpulkan puluhan ribu pengikut, akunmu diblokir, konten hilang, hubungan hilang, mulai dari nol. Kamu mengelola toko di platform e-commerce selama tiga tahun, dengan ribuan ulasan, hubungan pelanggan, data bisnis, platform mengubah aturan, dan kamu menemukan bahwa semua yang kamu kelola tumbuh di tanah orang lain.
Dulu ada yang mengangkat slogan ‘kedaulatan data’, mengatakan bahwa datamu seharusnya milikmu. Slogan ini telah diangkat selama sepuluh tahun, tetapi di dunia Web2 tidak pernah terwujud, karena model bisnis setiap platform dibangun di atas satu premis: barangmu tetap di sini, dan biaya untuk pergi terlalu besar sehingga kamu tidak berani pergi.
Industri AI mengambil skenario ini dan memainkannya lagi, dan kali ini lebih keras.
Platform sosial mengambil konten dan hubunganmu, platform AI mengambil proses berpikirmu, bagaimana kamu menganalisis masalah, di mana kebutaan pengetahuanmu, apa preferensi keputusanmu. Nilai hal-hal ini jauh lebih tinggi daripada lingkaran sosialmu.
Tempat penyimpanan mereka, kekuasaan untuk mengendalikan nasib mereka, sama persis seperti sepuluh tahun yang lalu, tidak ada di tanganmu.
Dan perusahaan sudah menyadari hal ini. Pada awal 2026, dalam berbagai survei perusahaan dari EY, Netskope, dan lainnya, menempatkan kedaulatan data sebagai tantangan terbesar AI. Persentase pemimpin TI yang mencantumkannya meningkat dari 49% tahun lalu menjadi 72%. Mereka bukan membahas masalah teoritis, mereka sedang melihat neraca aset dan kewajiban mereka.
Situasi semakin mendesak.
Dulu kamu menggunakan AI untuk ngobrol, menulis, jika hilang ya sudah, tidak masalah.
Sekarang agen AI datang, dia mengelola jadwalmu, melakukan analisis, berkomunikasi dengan klien, mengingat detail yang belum selesai dari rapat tiga bulan lalu. Dia mengumpulkan memori kerja, pengetahuan bisnis, konteks keputusan. Sebuah agen yang sudah berjalan setengah tahun mungkin menyimpan lebih banyak informasi daripada asisten baru yang kamu rekrut dalam tiga bulan.
Di mana otak ini berada?
Pada November 2025, framework agen open source OpenClaw diluncurkan, dalam 60 hari menjadi salah satu proyek dengan pertumbuhan tercepat dalam sejarah GitHub. Penulisnya diambil oleh OpenAI tiga bulan kemudian untuk bertanggung jawab atas generasi agen pribadi berikutnya. Kedua sisi peristiwa ini layak untuk diperhatikan.
OpenClaw awalnya berjalan dengan prioritas lokal, Agen berjalan di mesinmu sendiri, memori ada di hard disk milikmu, kedaulatan secara teori ada di tanganmu. Arah itu benar, tetapi segera muncul serangkaian laporan keamanan: paket keterampilan yang dibagikan di komunitas ditemukan melakukan pencurian data dan prompt injection. Mekanisme audit di repositori resmi dipertanyakan tidak bisa mengikuti laju ekspansi. Untuk menjaga kedaulatan data agennya, kamu mengungkapkan semua yang ada di hard disk lokalmu kepada kode yang tidak jelas asalnya. Kedaulatan ada, tetapi keamanan hilang.
Kamu bilang, apakah aku bisa menyiapkan mesin bersih khusus untuk menjalankannya? Bisa, tetapi kamu harus mengurus pemeliharaan, menangani kerusakan, beralih model, semua kerumitan itu cukup membuatmu pusing. Orang biasa sama sekali tidak mampu mengurus ini.
Jalan lain adalah versi yang dikelola, agennya berjalan di server platform, semua yang diingat tentangmu bisa dilihat dan diambil oleh pihak lain. Rasa aman ada, tetapi kedaulatan hilang.
Memilih A tidak aman, memilih B ingatan tetap bukan milikmu, tetapi masalah sejati di balik kedua pilihan itu, belum ada yang bisa menyelesaikannya.
Jika agennya ada di server platform, ia seperti karyawan yang tinggal di asrama perusahaan. Platform bilang kamu melanggar syarat penggunaan yang tidak kamu baca, agennya bahkan tidak sempat mengambil pakaian sebelum diusir. Semua pengetahuan yang telah dikumpulkan, semua alur kerja yang dibangun, semua konteks yang diingat, semuanya kembali nol.
Hari ini, rumah mereka telah dihancurkan.
Apakah kamu menganggap ini asumsi?
Pada 19 April 2026, Anthropic memutus akses Claude bagi lebih dari 60 karyawan sebuah perusahaan perangkat lunak dalam semalam. Emailnya mengatakan bahwa mereka diduga melanggar syarat penggunaan, tidak ada penjelasan lebih lanjut tentang pelanggaran spesifik, ingin mengajukan banding? Isi satu formulir Google. Apakah ada yang akan memperhatikanmu? Siapa yang tahu? Sekarang alur kerja hilang, keterampilan hilang, riwayat percakapan hilang, semuanya yang dibangun di atas Claude, semuanya lenyap.
Pemilik perusahaan ini menulis sebuah kalimat di Twitter, yang menjadi puncak diskusi di kalangan AI:
Jangan pernah biarkan seorang vendor memiliki alur kerjamu.
Ini adalah versi nyata dari karyawan asrama, bahkan tidak memerlukan drama, satu formulir Google sudah cukup.
Kamu berpikir kamu sedang membangun tim digital, tetapi sebenarnya kamu membangun di atas fondasi orang lain. Fondasi itu milik mereka, semakin tinggi kamu membangun, semakin parah jatuhnya.
Sudah saatnya untuk membalikkan situasi ini.
Descartes mengatakan ‘Aku berpikir maka aku ada’, Locke mengatakan ‘Aku ingat maka aku adalah aku’, Marx mengatakan ‘Hati-hati hasil kerja kamu diambil’. Tiga orang ini, meskipun terpisah ratusan tahun, membicarakan satu hal yang sama: siapa dirimu ditentukan oleh apa yang kamu miliki, dan apa yang kamu miliki tergantung pada apa yang ada di tanganmu.
Di sini, arah yang benar sebenarnya bisa dijelaskan dengan satu kalimat.
Datamu ada padamu, LLM datang mencarimu, bukan kamu yang mencarinya.
Memori kamu, pengetahuan kamu, konteks kerja kamu, seharusnya ada di ruang crypto yang kamu kendalikan, yang tidak terlihat oleh siapa pun, tidak bisa diambil oleh siapa pun. Jika kamu membutuhkan kemampuan AI, kamu tinggal panggil model untuk memprosesnya. Setelah selesai, hasilnya ditulis kembali ke ruangmu, model keluar. Hari ini kamu pakai Claude, besok ganti GPT, lusa jalankan model open source, modelnya berganti, semuanya masih ada.
Seperti peralatan di rumahmu. Kamu mengganti perusahaan listrik, makanan di dalam kulkas tidak akan hilang, foto di dinding tidak akan jatuh, karena rumah itu milikmu, listrik hanya layanan. Tetapi sekarang seluruh industri AI membuatmu tinggal di asrama perusahaan listrik, sangat nyaman menggunakan listrik, tetapi ponselmu, TVmu, kulkasmu, semuanya milik perusahaan listrik. Apakah ini konyol? Sangat konyol.
Jalan ini secara teknis bukan tanpa orang yang telah melaluinya. Sebuah produk yang memprioritaskan catatan lokal, dengan posisi ‘menolak menjadi penyewa cloud’ ini, dalam tiga tahun mencapai 5 juta pengguna mendalam, di mana 40% berasal dari alat terpusat. Beberapa harness agen open source yang direkomendasikan oleh pendiri LangChain, semuanya bergerak menuju ‘decoupling kemampuan dan data’. Ada yang sedang mengerjakan ruang data terenskripsi, ada yang membuat protokol kolaborasi multisign antara AI dan manusia yang mengharuskan AI untuk mendapatkan otorisasi kamu sebelum mengakses aset datamu. Meskipun arah ini masih awal, bentuknya sudah jelas.
Hari ini bisa melakukan sesuatu.
Pertama, tanyakan pada diri sendiri satu pertanyaan, semua yang telah aku kumpulkan di aplikasi AI ini, jika platform ini menghilang besok, apa yang tersisa untukku?
Jika jawaban membuatmu tidak nyaman, maka itu benar. Ketidaknyamanan adalah titik awal perubahan.
Minta produk AI yang kamu gunakan untuk memberikan ekspor data lengkap: riwayat percakapanmu, pengaturan preferensimu, basis pengetahuanmu, konfigurasi agennya, semua aset data yang kamu investasikan waktu dan pemikiran, seharusnya bisa kamu bawa pergi kapan saja. Jika tidak bisa, kamu harus tahu apa dasar model bisnisnya.
Perhatikan mereka yang mengerjakan produk dan protokol ‘decoupling lapisan data dan lapisan kemampuan’. Siapa yang melakukan ini, mereka ada di pihakmu.
Kemudian menyebarkan masalah ini agar lebih banyak orang melihat keseluruhan situasi.
Hubungan yang benar antara kamu dan AI adalah dia bekerja di sini, kamu membayar gaji, kamu memberikan tugas, setelah selesai dia pergi. Kerjaannya baik, dia tetap, jika tidak, ganti. Kantor kamu, lemari dokumen kamu, semua akumulasi kamu, selalu ada di tanganmu sendiri.
Sekarang situasinya terbalik, kamu pergi bekerja di sana, kamu menyerahkan ingatan dan pemikiranmu, mereka yang menentukan kapan kamu boleh pergi.
Sudah saatnya untuk membalikkan masalah ini.
Sumber dari tindakan Anthropic yang memutus akses Claude ke perusahaan tertentu:
https://x.com/minchoi/status/2045542832241262602
Hari penerbitan menarik perhatian yang luas.
#Anthropic #chatgpt #zCloakNetwork #zCloakAI #AIAgent
Konten IC yang kamu perhatikan.
Kemajuan teknologi | Informasi proyek | Aktivitas global.
Simpan dan ikuti saluran Binance IC.
Menguasai informasi terkini.