Recientemente vi un artículo escrito por Peter Pang, CTO de Creao
Habla sobre cómo montaron la arquitectura base de un Agente AI, hay una parte que me dejó especialmente impresionado
Dijo que tomaron una decisión que suena un poco contraintuitiva: hicieron que la AI fuera intencionadamente "tonta"
➢➢➢
Dividieron el sistema en dos partes
Una parte se llama Host, que es el inteligente, encargado de manejar cuentas, contraseñas, dinero y datos, todas las cosas importantes están aquí
La otra parte se llama Sandbox, que es intencionadamente muda, la AI corre aquí, pero no puede tocar ninguna clave o cuenta real
Para llamar a cualquier servicio externo, solo puede solicitarlo, y el Host lo aprueba antes de reenviar
¿Por qué diseñar así?
Él mencionó un error común entre los ingenieros:
Cada vez que añaden una nueva función, para simplificar, le dan a la AI más permisos
Una o dos veces no se nota el problema, pero a medida que pasa el tiempo, esta AI que solo está ejecutando tareas, se convierte silenciosamente en la parte más autorizada del sistema
Si algo sale mal, todo se va al garete
Por el contrario, si el sandbox de la AI desde el principio solo tiene derechos de ejecución, sin ninguna identidad o clave
Aunque alguien la ataque o la engañe, lo único que pueden llevarse es un comprobante temporal de esa tarea, no pueden tocar nada más
//
Después de leerlo, pensé en mi propia experiencia en CreaoAI como "el experto en acciones en EE. UU."
Muchos seguidores me preguntan, ¿por qué el experto no simplemente me dice "esto solo se puede comprar"?
En realidad, la lógica es la misma
El experto puede ayudarte a desmenuzar una acción por completo
Te muestra los fundamentos, la tenencia institucional, los riesgos, todo
Pero la decisión de comprar, desde el principio, no dejé que lo hiciera, esa línea está bien marcada, no se va a mover solo porque haya más preguntas
La AI te ayuda a analizar, eso es una cosa, pero tomar la decisión es otra
Si algo sale mal en esta última, el dinero se pierde, y luego es demasiado tarde para arrepentirse.
//
Peter dice que lo que quieren no es un sandbox que se vuelva cada vez más hábil
Sino un host inteligente que mantenga el sandbox bien cerrado.
Creo que esta frase también se aplica al diseño de productos de AI: cuanto más claras son las fronteras, más confianza tienen los usuarios para confiarte cosas realmente importantes
El contenido anterior es solo para referencia y no constituye un consejo de inversión. DYOR #美股
Habla sobre cómo montaron la arquitectura base de un Agente AI, hay una parte que me dejó especialmente impresionado
Dijo que tomaron una decisión que suena un poco contraintuitiva: hicieron que la AI fuera intencionadamente "tonta"
➢➢➢
Dividieron el sistema en dos partes
Una parte se llama Host, que es el inteligente, encargado de manejar cuentas, contraseñas, dinero y datos, todas las cosas importantes están aquí
La otra parte se llama Sandbox, que es intencionadamente muda, la AI corre aquí, pero no puede tocar ninguna clave o cuenta real
Para llamar a cualquier servicio externo, solo puede solicitarlo, y el Host lo aprueba antes de reenviar
¿Por qué diseñar así?
Él mencionó un error común entre los ingenieros:
Cada vez que añaden una nueva función, para simplificar, le dan a la AI más permisos
Una o dos veces no se nota el problema, pero a medida que pasa el tiempo, esta AI que solo está ejecutando tareas, se convierte silenciosamente en la parte más autorizada del sistema
Si algo sale mal, todo se va al garete
Por el contrario, si el sandbox de la AI desde el principio solo tiene derechos de ejecución, sin ninguna identidad o clave
Aunque alguien la ataque o la engañe, lo único que pueden llevarse es un comprobante temporal de esa tarea, no pueden tocar nada más
//
Después de leerlo, pensé en mi propia experiencia en CreaoAI como "el experto en acciones en EE. UU."
Muchos seguidores me preguntan, ¿por qué el experto no simplemente me dice "esto solo se puede comprar"?
En realidad, la lógica es la misma
El experto puede ayudarte a desmenuzar una acción por completo
Te muestra los fundamentos, la tenencia institucional, los riesgos, todo
Pero la decisión de comprar, desde el principio, no dejé que lo hiciera, esa línea está bien marcada, no se va a mover solo porque haya más preguntas
La AI te ayuda a analizar, eso es una cosa, pero tomar la decisión es otra
Si algo sale mal en esta última, el dinero se pierde, y luego es demasiado tarde para arrepentirse.
//
Peter dice que lo que quieren no es un sandbox que se vuelva cada vez más hábil
Sino un host inteligente que mantenga el sandbox bien cerrado.
Creo que esta frase también se aplica al diseño de productos de AI: cuanto más claras son las fronteras, más confianza tienen los usuarios para confiarte cosas realmente importantes
El contenido anterior es solo para referencia y no constituye un consejo de inversión. DYOR #美股