Lo que me sigue atrayendo de @NewtonProtocol no es su ambición técnica, sino la incómoda posibilidad de que la rendición de cuentas y la comprensión no sean lo mismo. A menudo asumimos que, si un sistema inteligente puede demostrar por qué actuó, entonces la confianza se sigue naturalmente. Sospecho que esa suposición merece un escrutinio mayor del que normalmente recibe. Un sistema puede seguir fielmente reglas sin que nadie vuelva a revisar si esas reglas siguen reflejando los valores que se suponía que debía proteger.
Quizá eso es lo que más me interesa. Newton parece menos un protocolo y más un experimento sobre el comportamiento humano. En silencio, pregunta si estamos construyendo sistemas que fomentan la responsabilidad o simplemente sistemas que reducen la necesidad de conversaciones difíciles. Esos resultados no son idénticos. Uno fortalece el juicio, mientras que el otro puede ir reemplazándolo lentamente por procedimiento.
No estoy seguro de si la descentralización lo cambia todo de una vez. Parece más probable que lo cambie mediante el hábito. A medida que más participantes dependen de políticas conocidas, plantillas confiables o prácticas ampliamente aceptadas, la coordinación puede empezar a concentrarse en un círculo relativamente pequeño de influencia. Nadie elige explícitamente la centralización. Simplemente se convierte en el camino que requiere menos esfuerzo.
Lo que me sigue inquietando es que cada sistema exitoso eventualmente se vuelve ordinario. Cuando la participación se vuelve rutinaria en lugar de intencional, los incentivos a menudo cambian de formas sutiles. La comodidad empieza a competir con la transparencia y la eficiencia comienza a pesar más que la curiosidad. El protocolo puede seguir funcionando exactamente como fue diseñado, mientras gradualmente anima a menos personas a cuestionar los supuestos que hay debajo.
Tal vez la pregunta más importante no sea si Newton puede mantener sistemas autónomos sujetos a rendición de cuentas. Es si los seres humanos que rodean a esos sistemas seguirán cuestionándolos mucho tiempo después de que la rendición de cuentas se automatice.
@NewtonProtocol #Newt $NEWT .
Quizá eso es lo que más me interesa. Newton parece menos un protocolo y más un experimento sobre el comportamiento humano. En silencio, pregunta si estamos construyendo sistemas que fomentan la responsabilidad o simplemente sistemas que reducen la necesidad de conversaciones difíciles. Esos resultados no son idénticos. Uno fortalece el juicio, mientras que el otro puede ir reemplazándolo lentamente por procedimiento.
No estoy seguro de si la descentralización lo cambia todo de una vez. Parece más probable que lo cambie mediante el hábito. A medida que más participantes dependen de políticas conocidas, plantillas confiables o prácticas ampliamente aceptadas, la coordinación puede empezar a concentrarse en un círculo relativamente pequeño de influencia. Nadie elige explícitamente la centralización. Simplemente se convierte en el camino que requiere menos esfuerzo.
Lo que me sigue inquietando es que cada sistema exitoso eventualmente se vuelve ordinario. Cuando la participación se vuelve rutinaria en lugar de intencional, los incentivos a menudo cambian de formas sutiles. La comodidad empieza a competir con la transparencia y la eficiencia comienza a pesar más que la curiosidad. El protocolo puede seguir funcionando exactamente como fue diseñado, mientras gradualmente anima a menos personas a cuestionar los supuestos que hay debajo.
Tal vez la pregunta más importante no sea si Newton puede mantener sistemas autónomos sujetos a rendición de cuentas. Es si los seres humanos que rodean a esos sistemas seguirán cuestionándolos mucho tiempo después de que la rendición de cuentas se automatice.
@NewtonProtocol #Newt $NEWT .