MASALAH PALING MAHAL DALAM AI: KEpercayaan
Kecerdasan buatan menjadi semakin kuat, tetapi tantangan nyata saat ini adalah kepercayaan. AI modern dapat menulis, mengkode, dan menganalisis informasi dengan cepat, namun terkadang menghasilkan jawaban yang terdengar benar tetapi sebenarnya salah. Ini terjadi karena sebagian besar sistem AI menghasilkan respons berdasarkan probabilitas daripada fakta yang terverifikasi.
Saat AI memasuki bidang-bidang kritis seperti keuangan, kesehatan, dan penelitian, bahkan kesalahan kecil dapat memiliki konsekuensi serius. Karena ini, masa depan AI mungkin tergantung tidak hanya pada model yang lebih cerdas tetapi juga pada sistem yang memverifikasi keluaran AI.
Proyek seperti Jaringan Mira mengeksplorasi ide ini dengan memecah respons AI menjadi klaim-klaim kecil dan memeriksanya melalui beberapa model independen. Jika beberapa sistem setuju, informasi tersebut menjadi terverifikasi.
Di era AI yang akan datang, menghasilkan informasi akan menjadi mudah. Membuktikan bahwa informasi tersebut dapat dipercaya mungkin menjadi bagian terpenting dari AI.