Perusahaan model AI Anthropic baru-baru ini mengungkapkan versi terbaru dari 'Konstitusi Claude'nya, yang sekarang tersedia di bawah lisensi Creative Commons CC0 1.0. Menurut PANews, dokumen ini berfungsi sebagai 'otoritas tertinggi' untuk tujuan pelatihan, yang bertujuan untuk menghasilkan data pelatihan sintetis dan umpan balik peringkat. Konstitusi telah beralih dari mencantumkan prinsip-prinsip menjadi menjelaskan alasan di baliknya, meningkatkan kemampuannya untuk menggeneralisasi ke situasi baru.
Dokumen ini memprioritaskan keselamatan yang luas, etika, kepatuhan terhadap pedoman, dan bantuan yang tulus, menguraikan 'keterbatasan keras' seperti tidak memberikan bantuan substansial untuk senjata biologis. Ini juga mencakup bagian tentang kebajikan, keselamatan psikologis, dan kesadaran diri model, menekankan transparansi dan iterasi yang berkelanjutan.