Untuk pertama kalinya sebuah perusahaan mengatakan, “AI hanya menyarankan,” Anda hampir bisa mendengar departemen hukum bernapas lebih lega.

Karena “saran” adalah perisai yang nyaman. Model menghasilkan output. Seorang manusia mengklik setuju. Jika sesuatu berjalan salah, tanggung jawab larut menjadi diagram proses dan grafik alur kerja. Sistem bertindak, tetapi tidak ada yang benar-benar memiliki tindakan tersebut.

Ini adalah krisis akuntabilitas nyata dalam AI. Ini bukan terutama tentang akurasi model, biaya, atau latensi. Ini tentang tanggung jawab. Ketika keputusan yang didorong oleh AI menyebabkan kerugian — pinjaman yang ditolak, transaksi yang ditandai, rekomendasi medis, peringatan kepatuhan — siapa yang memikul beban pembuktian?