Hace unos días intenté que un asistente de IA me ayudara a organizar mis registros de operaciones. Al principio solo leía la tabla y calculaba ganancias y pérdidas, y me pareció bastante cómodo. Luego me sugirió que podía seguir conectando una API y generar automáticamente sugerencias de acciones; yo casi ya estaba por darle a ejecutar… de repente sentí un escalofrío en la espalda.😅
#OPG
Este es también un nuevo enfoque que ahora tengo para ver el @OpenGradient . En adelante, la IA en la cadena no puede limitarse solo a chatear: podría participar en cotizaciones, control de riesgos, simulaciones de estrategias e incluso ayudar a los usuarios a activar ciertas operaciones automatizadas. El problema es: ¿qué puede hacer, qué no puede hacer, y quién pone límites?
Creo que la infraestructura de IA realmente confiable debería estructurarse en capas, como los permisos para un humano: una capa es para datos de solo lectura, otra para cálculos de simulación, otra para la ejecución con montos pequeños y otra para poder revocar en cualquier momento. No se puede, porque se llame “agente inteligente”, dar por hecho que hay que entregar la cartera, los contratos y las decisiones de fondos a discreción.
$OPG Si queremos que la IA entre en escenarios reales on-chain, los límites de permisos serán más importantes que las funciones más llamativas. Porque lo que el usuario realmente teme no es que la IA no sea lo bastante inteligente, sino que lo sea demasiado, que sea demasiado proactiva y que todavía no tenga frenos.
Puede ejecutar cosas muy poderosas, pero para que sea una infraestructura utilizable a largo plazo, tiene que poder limitarse, poder revocarse y dejar registro.
#OPG
Este es también un nuevo enfoque que ahora tengo para ver el @OpenGradient . En adelante, la IA en la cadena no puede limitarse solo a chatear: podría participar en cotizaciones, control de riesgos, simulaciones de estrategias e incluso ayudar a los usuarios a activar ciertas operaciones automatizadas. El problema es: ¿qué puede hacer, qué no puede hacer, y quién pone límites?
Creo que la infraestructura de IA realmente confiable debería estructurarse en capas, como los permisos para un humano: una capa es para datos de solo lectura, otra para cálculos de simulación, otra para la ejecución con montos pequeños y otra para poder revocar en cualquier momento. No se puede, porque se llame “agente inteligente”, dar por hecho que hay que entregar la cartera, los contratos y las decisiones de fondos a discreción.
$OPG Si queremos que la IA entre en escenarios reales on-chain, los límites de permisos serán más importantes que las funciones más llamativas. Porque lo que el usuario realmente teme no es que la IA no sea lo bastante inteligente, sino que lo sea demasiado, que sea demasiado proactiva y que todavía no tenga frenos.
Puede ejecutar cosas muy poderosas, pero para que sea una infraestructura utilizable a largo plazo, tiene que poder limitarse, poder revocarse y dejar registro.