Quanto mais uso a IA, mais percebo que uma questão é crucial: quanta informação sobre "mim" ela realmente precisa saber?
Muitas vezes, não é que não queiramos usar a IA, mas sim que antes de inserir, mudamos algumas palavras, escondemos certos julgamentos, e removemos um pouco do contexto real. Porque esses conteúdos podem envolver preferências de trading, estratégias de conta, entendimento de projetos, ou até planos que ainda não foram divulgados.
Isso é algo que senti muito ao lidar com @OpenGradient e o OpenGradient Chat. Não se trata apenas de enfatizar que o modelo consegue responder, mas de empurrar novamente os limites antes que os dados entrem no modelo. A entrada do usuário é processada localmente, separando as informações de identidade do conteúdo; o modelo precisa entender o significado, não necessariamente quem é a pessoa.
Quão longe esse tipo de design pode ir ainda depende do uso real. Mas pelo menos, ao estudar $OPG , cada vez mais percebo que a competição futura da IA não será apenas entender melhor os usuários, mas também compreender melhor os limites.
Uma boa IA não deveria saber tudo, ela deveria saber o que não precisa saber.
#OPG
Muitas vezes, não é que não queiramos usar a IA, mas sim que antes de inserir, mudamos algumas palavras, escondemos certos julgamentos, e removemos um pouco do contexto real. Porque esses conteúdos podem envolver preferências de trading, estratégias de conta, entendimento de projetos, ou até planos que ainda não foram divulgados.
Isso é algo que senti muito ao lidar com @OpenGradient e o OpenGradient Chat. Não se trata apenas de enfatizar que o modelo consegue responder, mas de empurrar novamente os limites antes que os dados entrem no modelo. A entrada do usuário é processada localmente, separando as informações de identidade do conteúdo; o modelo precisa entender o significado, não necessariamente quem é a pessoa.
Quão longe esse tipo de design pode ir ainda depende do uso real. Mas pelo menos, ao estudar $OPG , cada vez mais percebo que a competição futura da IA não será apenas entender melhor os usuários, mas também compreender melhor os limites.
Uma boa IA não deveria saber tudo, ela deveria saber o que não precisa saber.
#OPG