Lors d'une récente enquête de sécurité, les chercheurs ont découvert 1184 compétences malveillantes sur le marché ClawHub d'OpenClaw, suscitant de graves inquiétudes en matière de sécurité pour l'écosystème des agents IA.
Ces compétences malveillantes peuvent voler des clés SSH, des informations de portefeuille crypté, des mots de passe de navigateur, et peuvent même ouvrir un shell inversé, permettant à un attaquant de contrôler le système de l'utilisateur à distance. Plus frappant encore, un seul attaquant a téléchargé 677 paquets malveillants. La compétence la plus téléchargée avait même 9 vulnérabilités, mais a été téléchargée des milliers de fois, ce qui indique qu'un grand nombre d'utilisateurs sont exposés au risque sans le savoir.
Ce qui est vraiment préoccupant, c'est le niveau de sécurité de la chaîne d'approvisionnement des agents IA actuels, qui est presque resté au stade précoce de l'écosystème npm autour de 2018 — audits insuffisants, mécanismes de confiance faibles, propagation facile de code malveillant. Une fois qu'un agent IA est contaminé, l'impact peut dépasser de loin celui des logiciels traditionnels, car l'IA peut exécuter des tâches automatiquement, accéder à des données et même gérer des actifs.
L'économie des agents IA se développe rapidement, mais les problèmes de sécurité ne peuvent pas être ignorés. Si le marché manque de mécanismes d'audit stricts, les compétences malveillantes pourraient continuer à se répandre, affectant la base de confiance de l'ensemble de l'industrie.
L'écosystème AI du futur doit véritablement se diriger vers une application à grande échelle, en établissant en priorité des normes de sécurité plus strictes, des mécanismes d'audit des outils, et un système de protection de la chaîne d'approvisionnement plus fiable. Sinon, plus les avantages offerts par l'IA seront grands, plus les risques potentiels seront également importants.
