#robo $ROBO
$ROBO Observatório Global de Robôs da Fabric: Humanos como Juízes de Máquinas — Não o Contrário
A maioria das propostas de alinhamento de IA coloca o mecanismo de controle dentro do modelo.
@Fabric Foundation coloca dentro da camada de incentivo econômico, em vez disso.
O Observatório Global de Robôs é um conceito onde humanos em qualquer lugar do mundo podem observar o comportamento dos robôs, fornecer feedback e ser recompensados por fazer isso. Não como uma pesquisa de satisfação do cliente. Como uma entrada funcional para o sistema de pontuação de qualidade do protocolo — que afeta diretamente as emissões de tokens e as recompensas dos operadores.
A inversão aqui é deliberada. Em vez de perguntar se os guardrails internos de um robô estão calibrados corretamente — uma questão que exige confiar na entidade que construiu os guardrails — a Fabric pergunta se o comportamento observável do robô atende aos padrões humanos. A avaliação é externa. As consequências econômicas são reais.
Comportamento ruim do robô que humanos sinalizam reduz as recompensas para os operadores responsáveis. Comportamento consistentemente bom que ganha feedback positivo aumenta-as.
Alinhamento imposto através do interesse econômico próprio, em vez de uma restrição técnica.
Ainda estou observando se isso se mantém em escala. Mas é um design mais honesto do que a maioria.
Siga @Fabric Foundation para mais atualizações recentes