Uma pergunta sempre volta à minha mente sempre que as pessoas falam sobre IA em indústrias regulamentadas:
Quanta informação as organizações estão realmente dispostas a compartilhar com um sistema de IA quando as consequências de um erro são reais?
Na saúde, finanças, serviços jurídicos e até mesmo em fluxos de trabalho governamentais, a questão raramente é se a IA é útil. A questão é se as pessoas podem confiar no ambiente ao seu redor. A maioria dos produtos de IA parece lidar com a privacidade como uma exceção. Os dados são coletados primeiro, e depois políticas, permissões e estruturas de conformidade são adicionadas.
Esse approach funciona até que não funcione mais.
Eu já vi sistemas tecnológicos falharem o suficiente para saber que as pessoas muitas vezes se comportam de acordo com incentivos, não intenções. Uma política de privacidade pode ser bem escrita, mas as políticas podem mudar. A infraestrutura é mais difícil de mudar.
É por isso que acho @OpenGradient OpenGradient interessante. Em vez de pedir aos usuários que confiem em uma empresa, o projeto parece estar explorando se a privacidade pode ser construída diretamente na arquitetura. Com o OpenGradient Chat (chat.opengradient.ai), a ideia é que as mensagens sejam criptografadas no dispositivo do usuário e as identidades sejam removidas antes que as solicitações cheguem ao modelo. Se esse modelo escala na prática, ainda está por ser visto, mas parece mais próximo de como ambientes regulamentados realmente pensam sobre risco.
Para mim, o verdadeiro valor de $OPG não é especulação. É a possibilidade de que a privacidade se torne a condição padrão em vez de um pedido especial.
Se isso funcionar, as instituições podem finalmente ter um caminho para adotar IA sem negociar constantemente exceções. Se falhar, provavelmente será porque a usabilidade e a complexidade operacional superam os benefícios.
#opg
Quanta informação as organizações estão realmente dispostas a compartilhar com um sistema de IA quando as consequências de um erro são reais?
Na saúde, finanças, serviços jurídicos e até mesmo em fluxos de trabalho governamentais, a questão raramente é se a IA é útil. A questão é se as pessoas podem confiar no ambiente ao seu redor. A maioria dos produtos de IA parece lidar com a privacidade como uma exceção. Os dados são coletados primeiro, e depois políticas, permissões e estruturas de conformidade são adicionadas.
Esse approach funciona até que não funcione mais.
Eu já vi sistemas tecnológicos falharem o suficiente para saber que as pessoas muitas vezes se comportam de acordo com incentivos, não intenções. Uma política de privacidade pode ser bem escrita, mas as políticas podem mudar. A infraestrutura é mais difícil de mudar.
É por isso que acho @OpenGradient OpenGradient interessante. Em vez de pedir aos usuários que confiem em uma empresa, o projeto parece estar explorando se a privacidade pode ser construída diretamente na arquitetura. Com o OpenGradient Chat (chat.opengradient.ai), a ideia é que as mensagens sejam criptografadas no dispositivo do usuário e as identidades sejam removidas antes que as solicitações cheguem ao modelo. Se esse modelo escala na prática, ainda está por ser visto, mas parece mais próximo de como ambientes regulamentados realmente pensam sobre risco.
Para mim, o verdadeiro valor de $OPG não é especulação. É a possibilidade de que a privacidade se torne a condição padrão em vez de um pedido especial.
Se isso funcionar, as instituições podem finalmente ter um caminho para adotar IA sem negociar constantemente exceções. Se falhar, provavelmente será porque a usabilidade e a complexidade operacional superam os benefícios.
#opg