L'idée de placer une couche de vérification entre la sortie de l'IA et l'exécution dans le monde réel a beaucoup de sens pour les applications à haut risque.

J'ai essayé quelque chose de simple il y a quelques semaines.

J'ai posé la même question compliquée à trois modèles d'intelligence artificielle différents.

Les trois ont répondu avec confiance.

Les trois avaient l'air convaincants.

Et les trois ont donné des réponses différentes.

C'était le moment où quelque chose d'évident a cliqué.

Le véritable problème avec l'IA en ce moment n'est pas l'intelligence.

C'est la confiance.

Chaque modèle parle avec confiance. Mais la confiance n'est pas une preuve. Quand une réponse apparaît à l'écran, il n'y a aucun moyen de savoir si elle est correcte, partiellement correcte ou complètement fabriquée.