$OPG #OPG
ça fait quelques jours que je réfléchis à la manière dont OpenGradient Chat gère la confidentialité et je reviens toujours à la même chose : ce n'est pas vraiment une fonctionnalité de confidentialité, c'est une architecture de confidentialité....
voici le mécanisme. votre message est chiffré localement sur votre appareil avant de quitter le navigateur. les clés ne vont nulle part, elles restent avec vous. ensuite, ça passe par un relais HTTP Oblivious qui voit votre IP mais ne reçoit que du ciphertext. la passerelle en aval voit le texte en clair mais jamais votre IP. aucun point unique dans cette chaîne ne peut corréler qui vous êtes avec ce que vous avez demandé....
deux jobs, pas un.
et puis la troisième couche -+ la passerelle TEE. les prompts ne sont déchiffrés qu'à l'intérieur d'un environnement d'exécution de confiance avec attestation à distance. l'enclave est attestée, vous pouvez donc vérifier la garantie vous-même plutôt que de prendre la parole de quelqu'un....
j'en trouve cela rassurant d'une certaine manière. la plupart des revendications de confidentialité sont des politiques. celle-ci est appliquée dans l'architecture. c'est une catégorie différente de promesse....
mais je ne vais pas prétendre que l'attestation TEE est une immunité. si une vulnérabilité matérielle fondamentale apparaît, l'ensemble du modèle de confiance de l'enclave change. c'est à garder à l'esprit....
j'ai appris cette distinction à mes dépens. il y a environ un an, j'utilisais un outil d'IA privé qui avait une excellente politique mais aucune infrastructure vérifiable. les données sont apparues quelque part où elles n'étaient pas censées être. j'ai commencé à prendre l'architecture au sérieux après cela....
ce que je ne peux toujours pas résoudre, c'est si la séparation du relais OHTTP résiste réellement à une attaque coordonnée où l'opérateur du relais et la passerelle sont compromis simultanément ??
chat.opengradient.ai
@OpenGradient
ça fait quelques jours que je réfléchis à la manière dont OpenGradient Chat gère la confidentialité et je reviens toujours à la même chose : ce n'est pas vraiment une fonctionnalité de confidentialité, c'est une architecture de confidentialité....
voici le mécanisme. votre message est chiffré localement sur votre appareil avant de quitter le navigateur. les clés ne vont nulle part, elles restent avec vous. ensuite, ça passe par un relais HTTP Oblivious qui voit votre IP mais ne reçoit que du ciphertext. la passerelle en aval voit le texte en clair mais jamais votre IP. aucun point unique dans cette chaîne ne peut corréler qui vous êtes avec ce que vous avez demandé....
deux jobs, pas un.
et puis la troisième couche -+ la passerelle TEE. les prompts ne sont déchiffrés qu'à l'intérieur d'un environnement d'exécution de confiance avec attestation à distance. l'enclave est attestée, vous pouvez donc vérifier la garantie vous-même plutôt que de prendre la parole de quelqu'un....
j'en trouve cela rassurant d'une certaine manière. la plupart des revendications de confidentialité sont des politiques. celle-ci est appliquée dans l'architecture. c'est une catégorie différente de promesse....
mais je ne vais pas prétendre que l'attestation TEE est une immunité. si une vulnérabilité matérielle fondamentale apparaît, l'ensemble du modèle de confiance de l'enclave change. c'est à garder à l'esprit....
j'ai appris cette distinction à mes dépens. il y a environ un an, j'utilisais un outil d'IA privé qui avait une excellente politique mais aucune infrastructure vérifiable. les données sont apparues quelque part où elles n'étaient pas censées être. j'ai commencé à prendre l'architecture au sérieux après cela....
ce que je ne peux toujours pas résoudre, c'est si la séparation du relais OHTTP résiste réellement à une attaque coordonnée où l'opérateur du relais et la passerelle sont compromis simultanément ??
chat.opengradient.ai
@OpenGradient