Une question revient sans cesse lorsque les gens parlent de l'IA dans les industries réglementées :
Quelle quantité d'informations les organisations sont-elles réellement prêtes à partager avec un système d'IA lorsque les conséquences d'une erreur sont réelles ?
Dans les domaines de la santé, de la finance, des services juridiques, et même dans les workflows gouvernementaux, le problème n'est presque jamais de savoir si l'IA est utile. La question est de savoir si les gens peuvent faire confiance à l'environnement qui l'entoure. La plupart des produits IA semblent gérer la confidentialité comme une exception. Les données sont collectées en premier, puis des politiques, des autorisations et des cadres de conformité sont ajoutés par la suite.
Cette approche fonctionne jusqu'à ce qu'elle ne fonctionne plus.
J'ai vu suffisamment de systèmes technologiques échouer pour savoir que les gens se comportent souvent selon des incitations, pas des intentions. Une politique de confidentialité peut être bien rédigée, mais les politiques peuvent changer. L'infrastructure est plus difficile à modifier.
C'est pourquoi je trouve @OpenGradient OpenGradient intéressant. Plutôt que de demander aux utilisateurs de faire confiance à une entreprise, le projet semble explorer si la confidentialité peut être intégrée directement dans l'architecture elle-même. Avec OpenGradient Chat (chat.opengradient.ai), l'idée est que les messages sont cryptés sur le dispositif de l'utilisateur et que les identités sont supprimées avant que les requêtes n'atteignent le modèle. Si ce modèle peut se développer dans la pratique reste à voir, mais cela semble plus proche de la façon dont les environnements réglementés pensent réellement au risque.
Pour moi, la vraie valeur de $OPG n'est pas la spéculation. C'est la possibilité que la confidentialité devienne la condition par défaut au lieu d'une demande spéciale.
Si cela fonctionne, les institutions pourraient enfin avoir un chemin pour adopter l'IA sans négocier constamment des exceptions. Si cela échoue, ce sera probablement parce que l'utilisabilité et la complexité opérationnelle l'emportent sur les avantages.
#opg
Quelle quantité d'informations les organisations sont-elles réellement prêtes à partager avec un système d'IA lorsque les conséquences d'une erreur sont réelles ?
Dans les domaines de la santé, de la finance, des services juridiques, et même dans les workflows gouvernementaux, le problème n'est presque jamais de savoir si l'IA est utile. La question est de savoir si les gens peuvent faire confiance à l'environnement qui l'entoure. La plupart des produits IA semblent gérer la confidentialité comme une exception. Les données sont collectées en premier, puis des politiques, des autorisations et des cadres de conformité sont ajoutés par la suite.
Cette approche fonctionne jusqu'à ce qu'elle ne fonctionne plus.
J'ai vu suffisamment de systèmes technologiques échouer pour savoir que les gens se comportent souvent selon des incitations, pas des intentions. Une politique de confidentialité peut être bien rédigée, mais les politiques peuvent changer. L'infrastructure est plus difficile à modifier.
C'est pourquoi je trouve @OpenGradient OpenGradient intéressant. Plutôt que de demander aux utilisateurs de faire confiance à une entreprise, le projet semble explorer si la confidentialité peut être intégrée directement dans l'architecture elle-même. Avec OpenGradient Chat (chat.opengradient.ai), l'idée est que les messages sont cryptés sur le dispositif de l'utilisateur et que les identités sont supprimées avant que les requêtes n'atteignent le modèle. Si ce modèle peut se développer dans la pratique reste à voir, mais cela semble plus proche de la façon dont les environnements réglementés pensent réellement au risque.
Pour moi, la vraie valeur de $OPG n'est pas la spéculation. C'est la possibilité que la confidentialité devienne la condition par défaut au lieu d'une demande spéciale.
Si cela fonctionne, les institutions pourraient enfin avoir un chemin pour adopter l'IA sans négocier constamment des exceptions. Si cela échoue, ce sera probablement parce que l'utilisabilité et la complexité opérationnelle l'emportent sur les avantages.
#opg