Kecerdasan buatan (AI) benar-benar mengubah segalanya — dan inilah ancaman utamanya: ketika teknologi benar-benar mengubah segalanya, pasar berhenti mengajukan pertanyaan sulit.
Hype saat ini seputar AI tidak hanya didorong oleh inovasi. Ada campuran kuat antara keserakahan dan ketakutan kehilangan kesempatan. Ketika dua kekuatan ini menguasai, perilaku irasional menggantikan akal sehat. Ini bukan vonis terhadap teknologi — ini adalah pengamatan tentang bagaimana pasar berfungsi. Kita sudah pernah melewati fase serupa.
Ketika biaya modal mendekati nol
Ada tanda pasti bahwa pasar telah beralih dari antusiasme ke optimisme irasional: biaya modal mendekati nol. Ketika risiko diabaikan dalam harga, disiplin juga menghilang. Pertanyaan tentang pengembalian investasi, tentang konsekuensi dari potensi kegagalan — semua ini dikorbankan dalam pengejaran keuntungan cepat.
Modal saat ini ditempatkan hampir tanpa kendali. Para pengusaha telah mempelajari: menambahkan 'AI' ke deskripsi produk apa pun berarti membuka banyak pintu. Korporasi melakukan pembelian AI besar-besaran, namun sebagian besar dalam kerangka R&D — mencoba memahami apa yang teknologi ini berarti bagi bisnis mereka, sebelum pesaing mendahului mereka. Secara bersamaan, mekanisme daur ulang berfungsi: sebagian besar pendapatan perusahaan AI berasal dari perusahaan AI lain yang membeli daya komputasi dan layanan. Setiap dolar dihitung sebagai sepuluh.
Inilah masalah dari ekses jangka pendek. Jalan dari teknologi revolusioner menuju nilai yang berkelanjutan tidak pernah lurus — era dot-com membuktikannya. Kita cenderung melebih-lebihkan efek jangka pendek dan meremehkan jangka panjang. Saat ini kita berada tepat pada fase penilaian berlebih.
Mengapa batasan bukanlah teori
Seiring dengan aliran modal yang masuk ke AI, ada daftar panjang dan sebagian besar belum terpecahkan dari hambatan nyata untuk penerapan massal.
Di antara mereka adalah pencemaran data rekursif. Model bahasa besar menghasilkan volume konten yang sangat besar, yang kemudian digunakan sebagai bahan pelatihan untuk generasi model berikutnya. Kesalahan dan halusinasi diperkuat setiap siklus. Ini mengingatkan kita pada penggandaan salinan yang terus-menerus: kualitas terus menurun, dan pada akhirnya tidak mungkin untuk menentukan sumber asli. Industri sudah beralih ke data sintetis untuk mengimbangi kekurangan konten manusia yang berkualitas, namun ini berisiko mempercepat degradasi, bukan menghilangkannya.
Masalah yang lebih serius adalah pencemaran data. Penjahat dapat dengan sengaja mengubah kumpulan pelatihan, dan 'racun' yang sekali disisipkan akan tetap ada dalam model selamanya. Skenario militer sangat berbahaya: AI yang dilatih untuk mengenali teman dan lawan berdasarkan data yang dikompromikan akan menemukan kerentanan tersembunyi hanya di tengah konflik nyata. Sudah tercatat bahwa untuk mencemari model bahasa dengan ukuran apa pun hanya dibutuhkan 250 dokumen berbahaya — ini menjadikan serangan pada data pelatihan bukan ancaman hipotetis, tetapi masalah nyata dalam keamanan siber.
Masalah terpisah adalah ketidaktransparanan model. Vendor AI pada umumnya menyembunyikan apa yang sebenarnya ada di dalam sistem mereka. Memverifikasi seberapa aman, objektif, dan akurat model tersebut hampir tidak mungkin. Wakil Presiden Cisco Tom Gillis secara langsung menunjukkan: untuk tugas yang sensitif, model sebaiknya dijalankan di infrastruktur sendiri, bukan di cloud — karena tidak ada yang tahu pasti apa yang terjadi di sana.
Selama masalah ini tidak diselesaikan untuk setiap skenario penggunaan spesifik, penerapan massal AI tidak akan terjadi — dan tidak seharusnya terjadi — dalam skala yang pasar perkirakan dalam penilaian saat ini.
Kecepatan mesin mengubah persamaan risiko
Bahaya utama AI bukanlah apakah sesuatu bisa salah, tetapi seberapa cepat itu terjadi. Secara historis, manusia dalam rantai pengambilan keputusan berfungsi sebagai pengaman — yang memperlambat proses cukup lama agar penilaian dapat berfungsi pada saat yang diperlukan. AI agensi menghilangkan pengaman ini sepenuhnya.
Hanya konsekuensi dari serangan siber yang harus membuat setiap dewan direksi waspada. Sebelumnya, ekonomi menahan pelaku jahat dari otomatisasi serangan secara penuh: itu tidak menguntungkan. Pembelajaran mesin menghilangkan batasan ini. Ketika sistem AI berinteraksi satu sama lain di luar lingkungan yang terkontrol dan sesuatu berjalan tidak sesuai pada kecepatan mesin — menghentikannya bisa menjadi tidak mungkin. Konsekuensi tak terduga dari teknologi ini, yang bahkan belum kita mulai pikirkan, tidak akan berkembang dengan lambat.
Apa yang harus dilakukan oleh investor dan dewan direksi
Semua ini bukan argumen melawan AI. Energi nuklir adalah salah satu sumber energi paling kuat dan bersih yang pernah diciptakan. Dan pada saat yang sama — bahan untuk bom. Teknologi itu sendiri tidak memilih. Kita yang memilih. Perbedaannya terletak pada adanya atau tidaknya disiplin, batasan, dan penilaian yang jernih terhadap konsekuensi.
Perusahaan dan investor yang akan membentuk lanskap AI jangka panjang bukanlah mereka yang bergerak paling cepat saat ini. Melainkan mereka yang bergerak dengan kesadaran yang lebih besar. Ketika biaya modal dinormalisasi — dan itu pasti akan terjadi — yang akan bertahan adalah mereka yang menerapkan AI untuk tugas-tugas tertentu, yang membangun pemahaman tentang risiko dan imbal hasil sebelum melakukan skala besar. Begitulah cara perusahaan yang berkelanjutan selalu dibangun.
Bagi dewan direksi dan pengelola modal, tugasnya bukan untuk memperlambat, tetapi untuk fokus. Mengajukan pertanyaan yang saat ini diabaikan oleh pasar. Memisahkan R&D dan penerapan produksi. Memahami dengan jelas pada tahap mana organisasi sebenarnya berada. Menuntut kejelasan dalam skenario penerapan: 'kami menggunakan AI' — itu bukan strategi. Mempertimbangkan risiko dalam model keuangan dan agenda dewan direksi sebagai faktor utama, bukan catatan kaki.
Potensi transformasi jangka panjang AI nyata — dan masih diremehkan. Emas ada. Namun disiplin terletak pada membedakannya dari kilauan dan memiliki kesabaran agar perbedaan ini berarti.
