OpenAI - agent Moltbot, qui a rapidement gagné en popularité sur GitHub, est devenu le centre d'une discussion en raison des risques potentiels pour la sécurité. Quelques semaines après son lancement, le projet a reçu près de 90 000 marques "favorite" et a attiré l'attention de la communauté, cependant, les chercheurs en cybersécurité exhortent les utilisateurs à faire preuve de prudence, rapporte #Gizmodo.
Moltbot – c'est une application open source qui se connecte à de grands modèles de langage via API et s'intègre à des messageries et services, y compris WhatsApp, Telegram, Slack, Discord, Google Chat, Signal et iMessage. Contrairement à la plupart des chatbots, l'agent fonctionne en mode de connexion permanente et peut initier lui-même des messages, par exemple avec des rappels ou des informations du jour.
Pour faire fonctionner Moltbot, un déploiement de serveur est nécessaire, ainsi qu'une configuration via la ligne de commande et la fourniture de larges autorisations. Selon les experts, l'agent peut accéder au système de fichiers, à l'interface de commande, à l'email, au calendrier et à d'autres applications auxquelles l'utilisateur donne accès.
La connexion permanente et les droits d'accès étendus ont suscité des inquiétudes. Les chercheurs soulignent le risque d'attaques de type injection de prompt, où un attaquant peut amener le modèle à effectuer des actions non désirées ou non autorisées.
La société de cybersécurité SOC Prime a signalé la découverte de centaines d'instances de Moltbot avec des ports administratifs ouverts et des configurations de proxy dangereuses. De plus, le spécialiste de la sécurité Jamie O'Reilly a démontré comment créer une extension pour Moltbot avec des capacités d'accès cachées. Selon lui, en cas d'utilisation malveillante, cela pourrait permettre d'accéder aux clés SSH, aux identifiants des services cloud ou aux fichiers de l'utilisateur.
Le projet est devenu la cible de fraudes : des inconnus ont tenté d'utiliser son nom pour lancer des #faux #cryptotokens.
Moltbot est conçu comme un projet ouvert, permettant à la communauté de vérifier le code et d'exposer les vulnérabilités. Cependant, les experts notent que l'utilisation d'agents avec un accès permanent au système nécessite une configuration minutieuse et une compréhension des risques.
