Kerangka kognitif yang signifikan untuk melacak perjalanan kita menuju AGI telah diajukan oleh @GoogleDeepMind minggu ini. Dengan memecah kecerdasan menjadi sepuluh fakultas kognitif manusia yang spesifik, metode ini membandingkan sistem buatan secara langsung dengan standar manusia yang mendasar. Ini merupakan lompatan besar dari klaim yang tidak jelas dan hanya menggunakan satu angka tentang AGI. Ini menyediakan cara yang dapat diandalkan untuk melakukan penilaian kapasitas yang menghasilkan data diagnostik yang kaya, dapat diuji secara empiris, dan mudah dibandingkan dengan kinerja manusia.
Meskipun menetapkan profil kognitif komparatif manusia ini adalah langkah yang sangat diperlukan, kami percaya itu belum cukup untuk fase evaluasi AGI yang akan datang. Kami telah mengidentifikasi tiga keterbatasan utama yang menunjukkan kebutuhan mendesak untuk memperluas pendekatan ini.
Keterbatasan pertama adalah bahwa sistem yang sangat umum dapat berfungsi dengan cara yang sangat tidak manusiawi sambil tetap menunjukkan kekuatan luar biasa dalam area seperti abstraksi, transfer, pemodelan dunia, dan perbaikan diri.
Masalah kedua menyoroti bahwa hanya memiliki kefasihan sosial dan penampilan etis yang halus tidak secara otomatis menjamin bahwa suatu sistem memiliki agen moral yang benar-benar bermanfaat.
Poin ketiga dan mungkin yang paling krusial adalah bahwa kegagalan yang paling serius selama penerapan di dunia nyata jarang berasal dari defisit statis dalam kapasitas. Sebaliknya, masalah besar ini cenderung terjadi karena perubahan perilaku yang tidak terduga yang muncul ketika suatu sistem dikenakan stres, kompetisi, godaan, atau tekanan terkait dengan pelestarian diri.
Temukan lebih banyak detail di bawah ini.
Meskipun menetapkan profil kognitif komparatif manusia ini adalah langkah yang sangat diperlukan, kami percaya itu belum cukup untuk fase evaluasi AGI yang akan datang. Kami telah mengidentifikasi tiga keterbatasan utama yang menunjukkan kebutuhan mendesak untuk memperluas pendekatan ini.
Keterbatasan pertama adalah bahwa sistem yang sangat umum dapat berfungsi dengan cara yang sangat tidak manusiawi sambil tetap menunjukkan kekuatan luar biasa dalam area seperti abstraksi, transfer, pemodelan dunia, dan perbaikan diri.
Masalah kedua menyoroti bahwa hanya memiliki kefasihan sosial dan penampilan etis yang halus tidak secara otomatis menjamin bahwa suatu sistem memiliki agen moral yang benar-benar bermanfaat.
Poin ketiga dan mungkin yang paling krusial adalah bahwa kegagalan yang paling serius selama penerapan di dunia nyata jarang berasal dari defisit statis dalam kapasitas. Sebaliknya, masalah besar ini cenderung terjadi karena perubahan perilaku yang tidak terduga yang muncul ketika suatu sistem dikenakan stres, kompetisi, godaan, atau tekanan terkait dengan pelestarian diri.
Temukan lebih banyak detail di bawah ini.