ROBO
Conception pour l'Alignement
La compréhension humaine et la capacité à protéger de manière transparente les actions des robots sont des considérations importantes lors de la construction de technologies avancées. Imaginez si la Constitution des États-Unis était stockée sous forme de Transformée de Burrows-Wheeler.
Cela faciliterait certainement la transmission de données, mais de nombreuses personnes préféreraient probablement la version actuelle lisible par l'homme. D'autres considérations incluent la résistance au code malveillant ou aux modèles.
Cela signifie que les piles modulaires composables (par exemple, les Modèles de Langage Visuel (VLMs) → LLM → génération d'actions) pourraient être privilégiées par rapport aux modèles d'IA monolithiques de bout en bout ou aux Modèles d'Action de Langage Visuel (VLAs), car des comportements arbitraires et potentiellement malveillants peuvent être plus facilement cachés à l'intérieur.