Je me souviens de la première fois où j'ai vu un projet comme @Mira - Trust Layer of AI , je l'ai presque immédiatement rejeté. « Couche de vérification pour l'IA » semblait être une autre tentative d'enrober un problème complexe dans un langage plus clair. Mais plus je pensais à l'endroit où l'IA échoue réellement, moins cela semblait abstrait. Le véritable problème n'est pas que les modèles font des erreurs. Chaque système le fait. Le problème est que les gens continuent d'essayer d'utiliser des outils probabilistes dans des environnements qui exigent responsabilité, traçabilité et un certain chemin vers la résolution des litiges.
C'est là que la plupart des solutions de sécurité de l'IA semblent incomplètes. L'ajustement fin aide jusqu'à ce que les conditions changent. Les garde-fous fonctionnent jusqu'à ce que les utilisateurs poussent aux limites. L'examen humain semble responsable, mais il est coûteux, lent et devient souvent un exercice de vérification. Dans la pratique, les institutions ne veulent pas seulement de meilleures réponses. Elles veulent quelque chose sur lequel elles peuvent compter lorsque l'argent circule, que les réclamations sont contestées, que des audits ont lieu ou que la responsabilité se manifeste quelque part de manière tangible.
Vu de cette façon, #Mira est plus intéressant en tant qu'infrastructure qu'en tant que produit d'IA. Il essaie de rendre la sortie des modèles compréhensible pour des systèmes qui se soucient de la preuve, du règlement, de la conformité et des incitations. C'est un problème plus difficile et plus utile.
Je peux comprendre pourquoi les constructeurs, les institutions et peut-être les régulateurs s'en soucient. Mais cela ne fonctionne que si la vérification est moins coûteuse que l'échec et plus simple qu'une supervision basée sur la confiance. Sinon, cela devient une autre couche élégante que personne n'utilise lorsque la pression du monde réel arrive.
— Satoshi Nakameto
$MIRA
C'est là que la plupart des solutions de sécurité de l'IA semblent incomplètes. L'ajustement fin aide jusqu'à ce que les conditions changent. Les garde-fous fonctionnent jusqu'à ce que les utilisateurs poussent aux limites. L'examen humain semble responsable, mais il est coûteux, lent et devient souvent un exercice de vérification. Dans la pratique, les institutions ne veulent pas seulement de meilleures réponses. Elles veulent quelque chose sur lequel elles peuvent compter lorsque l'argent circule, que les réclamations sont contestées, que des audits ont lieu ou que la responsabilité se manifeste quelque part de manière tangible.
Vu de cette façon, #Mira est plus intéressant en tant qu'infrastructure qu'en tant que produit d'IA. Il essaie de rendre la sortie des modèles compréhensible pour des systèmes qui se soucient de la preuve, du règlement, de la conformité et des incitations. C'est un problème plus difficile et plus utile.
Je peux comprendre pourquoi les constructeurs, les institutions et peut-être les régulateurs s'en soucient. Mais cela ne fonctionne que si la vérification est moins coûteuse que l'échec et plus simple qu'une supervision basée sur la confiance. Sinon, cela devient une autre couche élégante que personne n'utilise lorsque la pression du monde réel arrive.
— Satoshi Nakameto
$MIRA