Sigo pensando en algo que se pasa por alto con facilidad cuando la gente habla de la IA en cadena. La mayoría de las conversaciones se centran en hacer que los agentes autónomos sean más capaces. Cuanto más estudio Newton Protocol, más creo que la capacidad no es el problema más difícil de resolver.
La confianza.
Las criptomonedas tradicionales depositan la confianza en quien controla la clave privada. Newton Protocol introduce una suposición diferente. En lugar de tratar la autoridad como ilimitada, permite que la ejecución esté regida por políticas definidas antes de que un agente actúe. Eso no es solo otra función de seguridad. Creo que es un cambio sutil en dónde reside realmente la confianza.
Pero cambiar la confianza no elimina el riesgo. Solo cambia su ubicación.
La fortaleza de un sistema basado en políticas depende, en última instancia, de si esas políticas reflejan con precisión la intención del usuario, se mantienen aplicables en condiciones inesperadas y crean incentivos más fuertes para seguir las reglas que para buscar atajos. Si esas suposiciones fallan, la automatización aún puede producir resultados que son válidos técnicamente, pero que están fundamentalmente desalineados con lo que los usuarios querían.
No creo que sea una cuestión exclusiva de Newton Protocol. Es el intercambio que cada protocolo que construye infraestructura nativa de IA acabará teniendo que enfrentar a medida que los sistemas autónomos empiecen a gestionar valor económico real.
Me pregunto si la próxima generación de líderes cripto se definirá construyendo una IA más inteligente o construyendo sistemas que requieran menos confianza ciega en la IA desde el principio.
@NewtonProtocol $NEWT #Newt
#newt
La confianza.
Las criptomonedas tradicionales depositan la confianza en quien controla la clave privada. Newton Protocol introduce una suposición diferente. En lugar de tratar la autoridad como ilimitada, permite que la ejecución esté regida por políticas definidas antes de que un agente actúe. Eso no es solo otra función de seguridad. Creo que es un cambio sutil en dónde reside realmente la confianza.
Pero cambiar la confianza no elimina el riesgo. Solo cambia su ubicación.
La fortaleza de un sistema basado en políticas depende, en última instancia, de si esas políticas reflejan con precisión la intención del usuario, se mantienen aplicables en condiciones inesperadas y crean incentivos más fuertes para seguir las reglas que para buscar atajos. Si esas suposiciones fallan, la automatización aún puede producir resultados que son válidos técnicamente, pero que están fundamentalmente desalineados con lo que los usuarios querían.
No creo que sea una cuestión exclusiva de Newton Protocol. Es el intercambio que cada protocolo que construye infraestructura nativa de IA acabará teniendo que enfrentar a medida que los sistemas autónomos empiecen a gestionar valor económico real.
Me pregunto si la próxima generación de líderes cripto se definirá construyendo una IA más inteligente o construyendo sistemas que requieran menos confianza ciega en la IA desde el principio.
@NewtonProtocol $NEWT #Newt
#newt