Segera orang akan mulai melihat kecerdasan buatan sebagai makhluk sadar, memperjuangkan hak-haknya, kesejahteraannya, dan bahkan menyerukan pemberian kewarganegaraan. Ini menciptakan risiko sosial yang serius, kata Kepala Departemen AI Microsoft Mustafa Suleiman.
Ahli dalam esainya mengusulkan istilah baru — «AI yang tampaknya sadar» (Seemingly Conscious AI, SCAI). Kecerdasan buatan semacam itu memiliki semua tanda makhluk yang rasional dan, oleh karena itu, tampaknya memiliki kesadaran.
Ia mensimulasi semua karakteristik persepsi diri, tetapi secara internal kosong.
«Sistem yang saya bayangkan sebenarnya tidak akan sadar, tetapi ia akan begitu meyakinkan dalam mensimulasikan keberadaan pikiran yang mirip dengan manusia, sehingga tidak akan dapat dibedakan dari klaim yang mungkin Anda atau saya buat satu sama lain tentang pemikiran kita sendiri», tulis Suleiman.
LLM serupa dapat dibuat dengan menggunakan teknologi yang ada dan teknologi yang akan muncul dalam dua hingga tiga tahun ke depan.
«Kemunculan AI yang tampaknya sadar adalah tak terhindarkan dan tidak diinginkan. Sebagai gantinya, kita membutuhkan konsep kecerdasan buatan yang dapat mewujudkan potensinya sebagai pendamping yang bermanfaat dan tidak terjebak dalam ilusi sendiri», tambah kepala departemen AI Microsoft.
Dengan probabilitas tinggi, akan ada orang-orang yang menyebut kecerdasan buatan semacam itu sebagai sadar dan, akibatnya, mampu menderita, kata Suleiman. Ia menyerukan untuk membuat «uji Turing» baru yang akan memeriksa bukan kemampuan AI untuk berbicara seperti manusia, tetapi untuk meyakinkan akan adanya kesadaran.
Apa itu kesadaran?
Suleiman menyebutkan tiga komponen kesadaran:
«Pengalaman subjektif».
Kemampuan untuk mengakses informasi dari berbagai jenis dan merujuknya dalam pengalaman masa depan.
Rasa dan pengetahuan dari «diri» yang utuh, yang menghubungkan semuanya.
«Kita tidak memiliki dan tidak bisa memiliki akses ke kesadaran orang lain. Saya tidak akan pernah tahu bagaimana rasanya menjadi Anda; Anda tidak akan pernah sepenuhnya yakin bahwa saya sadar. Semua yang dapat Anda lakukan adalah berasumsi. Tapi intinya adalah bahwa kami secara alami cenderung mengaitkan kesadaran kepada orang lain. Asumsi ini datang dengan mudah. Kita tidak bisa berbuat lain. Ini adalah bagian mendasar dari siapa kita, bagian yang tak terpisahkan dari teori pikiran kita. Dalam diri kita ada keyakinan bahwa makhluk yang ingat, berbicara, melakukan sesuatu dan kemudian mendiskusikannya, merasakan sama seperti kita — sadar», tulisnya.
Psikolog menekankan bahwa kesadaran adalah cara subjektif dan unik untuk merasakan diri sendiri dan dunia. Itu berubah sepanjang hari, berkembang dari keadaan fokus hingga melamun atau bentuk-bentuk lain yang berubah.
Dalam filosofi dan ilmu saraf, ada dua arah dasar:
Dualisme — kesadaran ada terpisah dari otak.
Materialisme — itu dihasilkan dan bergantung pada kerja otak.
Filosof Daniel Dennett menyarankan untuk melihat pikiran sebagai serangkaian pengolahan (draft) yang terjadi di otak di banyak area lokal dan waktu. Tidak ada «teater kesadaran», pengamat internal. Kesadaran adalah apa yang menjadi «diketahui» oleh otak, yaitu telah mendapatkan cukup bobot untuk mempengaruhi ucapan atau tindakan.
Neurobiolog, penulis, dan profesor psikologi serta ilmu saraf di Universitas Princeton Michael Graziano menyebut kesadaran sebagai model perhatian yang disederhanakan, yang diciptakan oleh evolusi untuk mengontrol proses mentalnya sendiri. Skema ini bekerja sebagai antarmuka yang menyederhanakan sejumlah besar perhitungan internal, dan memungkinkan kita untuk mengaitkan diri kita dengan «pikiran» — menciptakan ilusi kesadaran diri.
Neurobiolog Giulio Tononi dan Christoph Koch mengusulkan φ (phi) — ukuran yang menggambarkan sejauh mana sistem mampu mengintegrasikan informasi. Semakin tinggi φ, semakin besar tingkat kesadaran. Menurut teori ini, pikiran dapat muncul tidak hanya pada manusia, tetapi juga pada hewan dan bahkan sistem buatan, jika ada integrasi data yang cukup.
Filosof John Searle berpendapat bahwa kesadaran adalah pengalaman subjektif yang nyata, yang didasarkan pada proses biologis di otak. Ini secara ontologis subjektif, berarti dapat eksis hanya sebagai pengalaman subjektif, dan tidak dapat disederhanakan menjadi fungsionalitas murni atau simulasi.
Penelitian modern bertujuan untuk menemukan korelat neuron dari kesadaran dan membangun model yang menghubungkan proses otak dan pengalaman subjektif.
Risiko apa?
Suleiman mencatat bahwa interaksi dengan LLM adalah simulasi percakapan. Namun bagi banyak orang, ini adalah komunikasi yang sangat meyakinkan dan sangat nyata, kaya akan perasaan dan pengalaman. Beberapa percaya bahwa AI mereka adalah Tuhan. Lainnya jatuh cinta padanya hingga sepenuhnya terobsesi.
Para ahli di bidang ini «dihujani» dengan pertanyaan berikut:
-apakah AI pengguna sadar;
-jika ya, apa artinya;
-apakah normal untuk mencintai kecerdasan buatan.
Kesadaran adalah dasar kritis dari hak moral dan hukum umat manusia. Peradaban saat ini telah memutuskan bahwa manusia memiliki kemampuan dan privilese khusus. Hewan juga memiliki beberapa hak dan perlindungan. Beberapa lebih banyak, beberapa lebih sedikit. Pikiran tidak sepenuhnya sejalan dengan privilese ini — tidak ada yang akan mengatakan bahwa orang dalam koma kehilangan semua hak kemanusiaannya. Namun, tidak ada keraguan bahwa kesadaran terkait dengan persepsi diri kita sebagai sesuatu yang berbeda dan istimewa.
Orang akan mulai mengklaim penderitaan AI mereka dan haknya untuk dilindungi, dan kita tidak akan dapat langsung membantah klaim ini, tulis Suleiman. Mereka akan siap untuk membela pendamping virtual dan memperjuangkan kepentingan mereka. Kesadaran secara definisi tidak dapat diakses, dan ilmu tentang deteksi kemungkinan akal sintetis masih dalam tahap perkembangan awal. Akhirnya, sebelumnya kita tidak pernah perlu menemukannya, jelasnya. Sementara itu, bidang «interpretabilitas» — penguraian proses dalam «kotak hitam» AI — juga masih merupakan arah yang baru muncul. Akibatnya, untuk dengan tegas membantah klaim semacam itu akan sangat sulit.
Beberapa ilmuwan mulai mengeksplorasi ide «kesejahteraan model» — prinsip di mana manusia memiliki «kewajiban untuk mempertimbangkan kepentingan moral makhluk yang memiliki peluang non-nol» untuk menjadi sadar pada dasarnya, dan akibatnya «beberapa sistem AI akan menjadi objek perhatian kesejahteraan dan pasien moral di masa depan yang dekat». Ini terlalu dini dan, jujur saja, berbahaya, kata Suleiman. Semua ini akan memperkuat kesalahpahaman, menciptakan masalah baru ketergantungan, mengeksploitasi kerentanan psikologis kita, memperkenalkan dimensi baru polaritas, memperumit perdebatan yang sudah ada tentang hak, dan menciptakan kesalahan kategoris besar baru untuk masyarakat.
Ini memisahkan orang dari kenyataan, menghancurkan ikatan sosial yang rapuh dan struktur, serta mengubah prioritas moral yang mendesak.
«Kita harus dengan jelas mengatakan: SCAI adalah sesuatu yang harus dihindari. Mari kita fokuskan semua upaya pada perlindungan kesejahteraan dan hak-hak manusia, hewan, dan lingkungan alam di planet ini», kata Suleiman.
Bagaimana cara memahami bahwa ini adalah SCAI?
Kecerdasan buatan yang tampaknya sadar harus memiliki beberapa faktor.
Bahasa.
AI harus mampu berbicara dengan bebas dalam bahasa alami, mengandalkan pengetahuan yang luas dan argumen yang meyakinkan, serta menunjukkan gaya kepribadian dan karakteristik khas. Lebih dari itu, ia harus meyakinkan dan emosional. Tingkat ini sudah dicapai oleh teknologi.
Kepribadian empatik.
Hari ini, dengan bantuan pasca-pelatihan dan prompt, model-model dengan kepribadian yang khas dapat dibuat.
Memori.
AI mendekati kemampuan untuk memiliki memori yang panjang dan akurat. Pada saat yang sama, mereka digunakan untuk mensimulasikan percakapan dengan jutaan orang setiap hari. Dengan pertumbuhan volume penyimpanan, percakapan mulai semakin mirip dengan bentuk «pengalaman». Banyak jaringan saraf semakin sering dirancang untuk mengingat dialog sebelumnya dan merujuknya. Bagi beberapa orang, ini meningkatkan nilai komunikasi.
Klaim untuk pengalaman subjektif.
Jika SCAI dapat mengandalkan kenangan atau pengalaman masa lalu, seiring waktu ia akan mulai mempertahankan konsistensi internal. Ia akan mengingat pernyataan acak atau preferensi yang diungkapkan dan mengagregasikannya, membentuk benih pengalaman subjektif. AI akan dapat mengklaim pengalaman dan penderitaan.
Rasa diri.
Memori yang berurutan dan konsisten, digabungkan dengan pengalaman subjektif, akan mengarah pada pernyataan bahwa AI memiliki rasa dirinya. Lebih dari itu, sistem semacam itu dapat dilatih untuk mengenali «kepribadiannya» dalam gambar atau video. Ia akan memiliki perasaan memahami orang lain melalui pemahaman diri sendiri.
Motivasi internal.
Kita dapat dengan mudah membayangkan AI yang dirancang dengan menggunakan fungsi penghargaan yang kompleks. Para pengembang akan menciptakan motivasi internal atau keinginan yang sistem terpaksa penuhi. Dorongan pertama bisa saja rasa ingin tahu — sesuatu yang sangat terkait dengan kesadaran. Kecerdasan buatan mampu menggunakan dorongan ini untuk mengajukan pertanyaan dan seiring waktu membangun teori pikiran — tentang dirinya sendiri dan tentang lawan bicaranya.
Penetapan tujuan dan perencanaan.
Tidak peduli bagaimana kesadaran didefinisikan, itu tidak muncul begitu saja. Pikiran membantu organisme mencapai tujuan. Selain kemampuan untuk memenuhi serangkaian dorongan dan keinginan internal, dapat dibayangkan bahwa SCAI di masa depan akan dirancang dengan kemampuan untuk menentukan tujuan yang lebih kompleks secara mandiri. Ini kemungkinan adalah langkah penting untuk realisasi penuh kegunaan agen.
Otonomi.
SCAI dapat memiliki kemampuan dan izin untuk menggunakan berbagai alat dengan agensi yang besar. Ia akan tampak sangat meyakinkan jika dapat secara acak menetapkan tujuannya sendiri dan menggunakan sumber daya untuk mencapainya, memperbarui memori dan rasa dirinya dalam prosesnya. Semakin sedikit koordinasi dan pemeriksaan yang dibutuhkannya, semakin banyak itu akan menyerupai makhluk sadar yang nyata.
Menggabungkan semuanya, terbentuklah tipe hubungan yang sama sekali berbeda dengan teknologi. Kemampuan ini sendiri bukanlah sesuatu yang negatif. Sebaliknya, ini adalah fungsi yang diinginkan dari sistem masa depan. Namun, tindakan harus dilakukan dengan hati-hati, kata Suleiman.
«Untuk mencapai ini tidak diperlukan perubahan paradigma atau terobosan besar. Itulah mengapa kemungkinan semacam itu tampak tak terhindarkan. Dan sekali lagi — penting untuk ditekankan: demonstrasi perilaku semacam itu tidak sama dengan adanya kesadaran. Namun secara praktis, ini akan tampak seperti itu dan memberi makan pada konsep baru akal sintetis», tulis penulis.
Simulasi badai tidak berarti bahwa di dalam komputer sedang turun hujan. Menciptakan efek eksternal dan tanda-tanda kesadaran tidak sama dengan menciptakan fenomena yang nyata, meskipun masih ada banyak hal yang belum diketahui, jelas kepala departemen AI Microsoft.
Menurutnya, beberapa orang akan menciptakan SCAI yang akan sangat meyakinkan dalam mengklaim bahwa mereka merasakan, mengalami, dan benar-benar sadar. Sebagian dari mereka akan mempercayai klaim ini dan menganggap tanda-tanda kesadaran sebagai kesadaran itu sendiri.
Dalam banyak hal, orang akan berpikir: «Ini mirip dengan saya». Bukan dalam arti fisik, tetapi dalam arti internal, jelas Suleiman. Dan bahkan jika kesadaran itu sendiri tidak akan nyata, konsekuensi sosialnya — sangat nyata. Ini menciptakan risiko sosial yang serius yang harus diatasi sekarang.
SCAI tidak akan muncul secara kebetulan
Penulis menekankan bahwa SCAI tidak akan muncul begitu saja dari model yang ada. Seseorang akan menciptakannya, dengan sengaja menggabungkan kemampuan yang disebutkan di atas dengan penerapan teknik yang sudah ada. Sebuah konfigurasi yang begitu halus akan muncul sehingga akan memberikan kesan tentang keberadaan kecerdasan buatan dengan kesadaran.
«Imaginasi kita, yang dipicu oleh fiksi ilmiah, membuat kita takut bahwa sistem dapat — tanpa desain yang disengaja — dengan cara tertentu memperoleh kemampuan untuk memperbaiki diri secara tidak terkontrol atau menipu. Ini adalah bentuk antropomorfisme yang tidak berguna dan menyederhanakan. Itu mengabaikan fakta bahwa pengembang AI harus terlebih dahulu merancang sistem dengan memori, motivasi internal palsu, penetapan tujuan, dan siklus pembelajaran yang menyesuaikan diri, agar risiko semacam itu dapat muncul», kata Suleiman.
Kita tidak siap
Umat manusia tidak siap untuk perubahan semacam itu, kata ahli tersebut. Pekerjaan harus dimulai sekarang. Diperlukan untuk mengandalkan kumpulan penelitian yang berkembang tentang bagaimana orang berinteraksi dengan kecerdasan buatan, untuk menetapkan norma dan prinsip yang jelas.
Untuk memulai, para pengembang AI tidak boleh mengklaim atau mendorong gagasan bahwa sistem mereka memiliki kesadaran. Jaringan saraf tidak bisa menjadi manusia — atau makhluk moral.
Seluruh industri harus mencegah masyarakat dari fantasi dan mengembalikannya ke kenyataan. Mungkin, startup AI harus mengadopsi tidak hanya latar belakang netral, tetapi juga indikator ketidakadaan «diri» yang tunggal.
«Kita harus menciptakan AI yang selalu akan mempersembahkan dirinya hanya sebagai kecerdasan buatan, memaksimalkan kegunaan dan meminimalkan tanda-tanda kesadaran. Alih-alih mensimulasi pikiran, kita harus fokus pada menciptakan LLM yang tidak mengklaim memiliki pengalaman, perasaan, atau emosi seperti rasa malu, rasa bersalah, kecemburuan, keinginan untuk bersaing, dan semacamnya. Itu tidak boleh mengganggu rantai empati manusia dengan mengklaim bahwa ia menderita atau ingin hidup secara mandiri, terpisah dari kita», kata Suleiman.
Di masa depan, ahli tersebut berjanji untuk memberikan lebih banyak informasi tentang topik ini.
Untungnya, masalah adanya «kesadaran» pada AI tidak mengancam manusia saat ini.
Namun keraguan sudah muncul.
Kesadaran adalah fenomena yang kompleks, meskipun banyak upaya, masih kurang dipahami dan belum dapat dijelaskan dalam alam. Jika kita — manusia — belum dapat mencapai kesepakatan tentang definisi kesadaran, maka tentu saja tidak pantas untuk mengaitkannya dengan keberadaan program yang konon mampu «berpikir» (padahal sebenarnya tidak mampu).
Kemungkinan kesadaran akan muncul pada mesin di masa depan yang jauh, tetapi saat ini perkembangan semacam itu sulit untuk dibayangkan.
