La empresa de modelos de IA Anthropic ha presentado recientemente la versión actualizada de su 'Constitución Claude', que ahora está disponible bajo la licencia Creative Commons CC0 1.0. Según PANews, este documento sirve como la 'máxima autoridad' para fines de entrenamiento, destinado a generar datos de entrenamiento sintéticos y clasificar retroalimentación. La constitución ha pasado de enumerar principios a explicar el razonamiento detrás de ellos, mejorando su capacidad para generalizar a nuevas situaciones.
El documento prioriza la seguridad amplia, la ética, la adhesión a las directrices y la asistencia sincera, delineando 'restricciones estrictas' como no brindar ayuda sustancial para armas biológicas. También incluye secciones sobre virtudes, seguridad psicológica y autoconciencia del modelo, enfatizando la transparencia y la iteración continua.