Cas Abbé

L'inconfort de l'intelligence artificielle

L'un des faits difficiles m'a fait regarder l'intelligence artificielle de plus près lorsque j'ai commencé à le faire. Les systèmes d'IA sont si sûrs mais pas nécessairement précis. Le modèle linguistique est capable de fournir une explication claire et de nommer des sources et d'organiser les arguments, cependant, il peut toujours se tromper en termes de faits simples. Ce problème est désigné sous le nom d'hallucination de l'IA et c'est l'une des raisons principales pour lesquelles l'IA n'est pas un outil de confiance dans d'autres cercles sérieux. Les systèmes ne sont pas applicables aux hôpitaux, aux tribunaux, aux marchés financiers et aux écoles qui composent parfois des informations. La technologie peut s'avérer puissante, cependant, lorsqu'elle n'est pas fiable, elle peut devenir risquée. Plus je lisais cela, plus je comprenais qu'il ne s'agit pas simplement de créer de meilleurs modèles. En effet, même les modèles les plus parfaits sont faillibles car ils sont probabilistes par nature. Au lieu de prouver, ils font des suppositions sur ce qu'ils pensent être éventuellement vrai. Donc, bien que le taux d'erreur puisse diminuer, il ne disparaît jamais. Et avec un milliard d'interactions d'IA chaque jour, vous pouvez déjà avoir un gros problème même avec un faible taux d'erreur.

Introduction : Quand tout le monde attend la saison des altcoins mais qu'elle ne vient jamais

Au cours des derniers mois, j'ai observé un phénomène étrange lorsque j'observe le marché des cryptomonnaies. Bitcoin recevait une attention, un volume et des gros titres significatifs, tandis que la plupart des altcoins n'expérimentaient pas la même chose. En général, lors d'un marché crypto florissant, les investisseurs redirigent une partie de leurs fonds de Bitcoin vers les autres tokens. C'est ce que les traders appellent la saison des altcoins.
Cependant, ces derniers temps, les statistiques ont dit le contraire. De nombreux indicateurs d'altcoins sont proches de leur plus bas niveau depuis près de deux ans, indiquant que le marché est certainement en saison Bitcoin. C'est-à-dire que la majorité des altcoins ne performent pas aussi bien que Bitcoin.

Au départ, j'étais fasciné par les titres sensationnels de robots effectuant des saltos arrière et que les drones livreurs de pizza deviendraient une réalité. Cependant, ma conversation avec les personnes qui utilisent des robots m'a fait réaliser qu'il n'existe pas de méthode facile pour démontrer ce qu'un robot a fait.

Et après avoir regardé SUBSERVIENCE, ma vision de la robotique a été gravement ébranlée. LOL

Lorsqu'un robot de livraison dépose le colis et que quelqu'un se plaint, les captures d'écran et les journaux personnels n'aident pas à résoudre le problème. Les robots ne possèdent pas de comptes bancaires, de passeports, et n'ont pas la capacité de signer des contrats. La majorité des flottes de robots sont gérées comme des clubs fermés : une entreprise collecte les fonds, achète des robots et les fonds restent dans leur propre cadre. Cela va pour les prototypes, mais pas pour les robots qui pourraient bénéficier à des étrangers. La différence entre des démonstrations accrocheuses et la réalité de la nécessité de prouver un travail m'a attiré vers le Fabric Protocol. Lors d'interviews avec des ingénieurs, j'ai écouté des drones, des robots d'entrepôt et même des machines chirurgicales qui tiennent des journaux d'erreurs par elles-mêmes et lorsqu'elles sont détruites, elles n'ont aucun enregistrement neutre.

Confiance, vérité et économie de jetons.

À première vue, en regardant Mira, j'étais plus préoccupé par le problème qu'il aborde que par l'excitation liée aux jetons : garantir que les résultats logiciels sont fiables. Les grands modèles d'IA sont certains mais ont la capacité de fabriquer ou de révéler les biais de leurs données d'entraînement. Selon le livre blanc, il n'existe aucun modèle contre les hallucinations et les biais. Une telle divergence implique que l'IA reste risquée dans des domaines vitaux des affaires tels que le diagnostic des maladies ou les décisions de prêt. C'est pourquoi il est important d'être vérifié.