F E L I X 4

Saat ini, ada transformasi tenang yang sedang terjadi di dunia. Selama beberapa dekade, robot sebagian besar berada di dalam pabrik, tersembunyi di balik dinding kaca dan melakukan tugas yang berulang yang diprogram manusia sebelumnya. Kecerdasan buatan sebagian besar hidup di dalam komputer, menganalisis data dan menjawab pertanyaan. Tetapi hari ini, kedua dunia ini mulai menyatu. Mesin belajar untuk mempersepsikan dunia fisik, mempertimbangkan tentangnya, dan bertindak di dalamnya. Robot pengantar menavigasi trotoar, sistem AI membantu dokter, dan mesin otonom mulai memasuki tempat kerja yang dulunya hanya bergantung pada tenaga kerja manusia.

Dunia bergerak lebih cepat@Mira - Trust Layer of AI daripada yang kita harapkan. Kecerdasan buatan ada di mana-mana sekarang. Ia menulis email, membantu dokter menganalisis data, menggerakkan sistem keuangan, merangkum berita, dan menjawab jutaan pertanyaan setiap hari. Kadang-kadang terasa hampir ajaib. Anda mengetik pertanyaan dan dalam beberapa detik Anda menerima jawaban yang percaya diri yang terdengar cerdas, penuh perhatian, dan lengkap. Namun di balik respons yang mengesankan itu terdapat masalah tenang yang tidak diperhatikan banyak orang pada awalnya.
Kecerdasan buatan tidak benar-benar tahu apa yang benar. Ia memprediksi pola. Ia menghasilkan jawaban berdasarkan probabilitas. Itu berarti bahkan model AI yang paling canggih dapat menghasilkan pernyataan yang terdengar sangat meyakinkan sementara sebenarnya salah. Peneliti menyebut fenomena ini halusinasi, di mana AI dengan percaya diri menciptakan informasi yang tidak ada atau salah menggambarkan fakta. Keterbatasan ini telah menjadi salah satu hambatan terbesar untuk menggunakan AI di area kritis seperti kesehatan, keuangan, hukum, dan pemerintahan. Jika sebuah sistem dapat sesekali mengarang fakta, bagaimana masyarakat bisa mempercayainya dalam keputusan yang mempengaruhi kehidupan nyata?