Sistem AI modern menghadapi dua jenis kesalahan utama yang mencegah operasi otonom: halusinasi dan bias. Halusinasi merepresentasikan kesalahan presisi di mana model menghasilkan output yang tidak konsisten, sementara bias terwujud sebagai penyimpangan sistematis dari kebenaran dasar. Tingkat kesalahan saat ini tetap terlalu tinggi untuk AI beroperasi secara independen dalam skenario penting, menciptakan kesenjangan fundamental antara kemampuan teoretis AI dan aplikasi praktis.
2. Dilema Pelatihan
Pembuat model AI menghadapi pilihan yang tidak mungkin: mengkurasi data pelatihan untuk mengurangi halusinasi pasti memperkenalkan bias melalui kriteria seleksi, sementara pelatihan pada sumber data yang beragam untuk meminimalkan bias mengarah pada halusinasi yang meningkat. Ini menciptakan batas yang tidak dapat diubah dalam performa AI di mana tidak ada model tunggal yang dapat meminimalkan kedua jenis kesalahan secara bersamaan, terlepas dari skala atau arsitektur.
3. Keterbatasan Sentralisasi
Sekadar menggabungkan beberapa model di bawah kontrol terpusat tidak dapat memecahkan tantangan keandalan karena pemilihan model itu sendiri memperkenalkan kesalahan sistematis. Pilihan kurator terpusat pasti mencerminkan perspektif dan keterbatasan tertentu, sementara banyak kebenaran pada dasarnya kontekstual di berbagai budaya, wilayah, dan domain.