He estado pensando mucho en la confianza últimamente. Específicamente en cómo simplemente se la hemos entregado a los sistemas de IA sin hacer las preguntas que probablemente debimos haber hecho primero.
Como, ¿dónde se está ejecutando realmente este modelo? ¿Quién controla los servidores? Si estoy usando lo que creo que es un modelo abierto, ¿cómo sé que no ha sido cambiado en silencio? ¿Y qué pasa cuando las tres o cuatro empresas que manejan toda esta infraestructura deciden cambiar los términos, aumentar precios, o simplemente cerrar todo?
Ya vimos esto desarrollarse en cripto. La centralización infiltrándose donde no se suponía que estaba. Todos asintiendo hasta que los puntos críticos se hicieron evidentes y para entonces las dependencias ya estaban integradas demasiado profundo.
Estoy observando OpenGradient con la misma curiosidad cansada que tengo por la mayoría de las cosas ahora. Es infraestructura para alojar y verificar modelos de IA de manera descentralizada. No es atractivo. No promete un avance en capacidades. Solo intenta hacer que la capa subyacente sea menos frágil y más responsable.
Una parte de mí se pregunta si "inteligencia abierta" incluso funciona a gran escala o si solo suena bien hasta que los incentivos se desmoronan. Pero otra parte de mí sigue volviendo al hecho de que estamos realizando inferencias en modelos que no podemos verificar, confiando en salidas que no podemos rastrear, dependiendo de una infraestructura que no controlamos.
Quizás la responsabilidad es el verdadero problema ahora. No la inteligencia.#opg $OPG @OpenGradient #IranCutsCrudePrices
Como, ¿dónde se está ejecutando realmente este modelo? ¿Quién controla los servidores? Si estoy usando lo que creo que es un modelo abierto, ¿cómo sé que no ha sido cambiado en silencio? ¿Y qué pasa cuando las tres o cuatro empresas que manejan toda esta infraestructura deciden cambiar los términos, aumentar precios, o simplemente cerrar todo?
Ya vimos esto desarrollarse en cripto. La centralización infiltrándose donde no se suponía que estaba. Todos asintiendo hasta que los puntos críticos se hicieron evidentes y para entonces las dependencias ya estaban integradas demasiado profundo.
Estoy observando OpenGradient con la misma curiosidad cansada que tengo por la mayoría de las cosas ahora. Es infraestructura para alojar y verificar modelos de IA de manera descentralizada. No es atractivo. No promete un avance en capacidades. Solo intenta hacer que la capa subyacente sea menos frágil y más responsable.
Una parte de mí se pregunta si "inteligencia abierta" incluso funciona a gran escala o si solo suena bien hasta que los incentivos se desmoronan. Pero otra parte de mí sigue volviendo al hecho de que estamos realizando inferencias en modelos que no podemos verificar, confiando en salidas que no podemos rastrear, dependiendo de una infraestructura que no controlamos.
Quizás la responsabilidad es el verdadero problema ahora. No la inteligencia.#opg $OPG @OpenGradient #IranCutsCrudePrices