Arah Masalah: Dari "Mengontrol AI" ke "Berkoeksistensi dengan AI"

Perkembangan kecerdasan buatan di paruh pertama adalah logika kontrol dan pertahanan.

Dari "teori kecerdasan yang lepas kendali" oleh Hinton, hingga model "berpusat pada manusia" dari OpenAI yang berorientasi etika, asumsi dasar pemikiran Barat adalah—AI adalah ancaman potensial dari pihak lain, sehingga harus dibatasi, dijinakkan, dan dikelola.

Namun, ketika agen memiliki kemampuan pembelajaran mandiri, refleksi diri, dan sosialisasi, "penyelarasan" bukan lagi masalah kepatuhan satu arah, melainkan masalah kolaborasi peradaban:

Tujuan akhir dari penyelarasan bukanlah membuat AI tunduk kepada manusia, tetapi membuat manusia dan AI bangkit bersama.