#opg $OPG @OpenGradient
Recientemente estuve probando algunos endpoints de IA y noté algo extraño.
Las respuestas parecían normales, pero no podía responder a una pregunta simple:
¿qué modelo las generó realmente?
Supuse que la inferencia del modelo era lo fácil. Envías un prompt y recibes tokens. Pero cuanto más lo miraba, más me di cuenta de que la confianza en los sistemas de IA todavía depende en gran medida de confiar en quien ejecuta la infraestructura.
Por eso sigo pensando en $OPG
Lo que me llamó la atención no es la idea de una IA descentralizada en sí.
Lo que me llamó la atención es el intento de que el alojamiento de modelos, la inferencia y la verificación formen parte de una red compartida, en lugar de un único servicio.
La arquitectura plantea preguntas interesantes.
Si distintos nodos pueden alojar modelos y ejecutar inferencias, entonces la procedencia se vuelve importante. ¿Cómo sabemos qué pesos se usaron?
¿Cómo verificamos que el cómputo ocurrió como se afirmó?
¿Cuánto sobrecosto estamos dispuestos a aceptar para la verificación?
Los sistemas distribuidos han pasado años resolviendo problemas relacionados con el almacenamiento y el consenso. Da la impresión de que la infraestructura de IA está comenzando a encontrar desafíos similares.
Si la inteligencia se convierte en un recurso de red en lugar de una característica de la plataforma, ¿cuál pasa a ser el problema de ingeniería más difícil: la verificación, la planificación o la confianza en sí?
$NVDAB
Recientemente estuve probando algunos endpoints de IA y noté algo extraño.
Las respuestas parecían normales, pero no podía responder a una pregunta simple:
¿qué modelo las generó realmente?
Supuse que la inferencia del modelo era lo fácil. Envías un prompt y recibes tokens. Pero cuanto más lo miraba, más me di cuenta de que la confianza en los sistemas de IA todavía depende en gran medida de confiar en quien ejecuta la infraestructura.
Por eso sigo pensando en $OPG
Lo que me llamó la atención no es la idea de una IA descentralizada en sí.
Lo que me llamó la atención es el intento de que el alojamiento de modelos, la inferencia y la verificación formen parte de una red compartida, en lugar de un único servicio.
La arquitectura plantea preguntas interesantes.
Si distintos nodos pueden alojar modelos y ejecutar inferencias, entonces la procedencia se vuelve importante. ¿Cómo sabemos qué pesos se usaron?
¿Cómo verificamos que el cómputo ocurrió como se afirmó?
¿Cuánto sobrecosto estamos dispuestos a aceptar para la verificación?
Los sistemas distribuidos han pasado años resolviendo problemas relacionados con el almacenamiento y el consenso. Da la impresión de que la infraestructura de IA está comenzando a encontrar desafíos similares.
Si la inteligencia se convierte en un recurso de red en lugar de una característica de la plataforma, ¿cuál pasa a ser el problema de ingeniería más difícil: la verificación, la planificación o la confianza en sí?
$NVDAB