Le groupe de renseignement sur les menaces de Google a déclaré dimanche qu'il avait intercepté ce qu'il pense être le premier exploit zero-day construit avec l'aide d'un modèle d'IA.

Un groupe de hackers criminels l'a écrit comme un script Python pour contourner l'authentification à deux facteurs (2FA) dans un outil d'administration web open-source, selon un rapport publié par Google sur son Cloud Blog. L'entreprise a travaillé avec le fournisseur pour stopper l'exploitation massive avant qu'elle ne commence.

Google a lié l'exploit à l'IA à travers des motifs de code

Google n'a pas blâmé son propre modèle Gemini. Les analystes ont souligné des motifs structurels dans le code qui suggèrent fortement une implication de l'IA.

« En se basant sur la structure et le contenu de ces exploits, nous avons une forte confiance que l'acteur a probablement utilisé un modèle d'IA pour soutenir la découverte et l'armement de cette vulnérabilité », a écrit Google.

Le script Python avait des docstrings éducatifs exceptionnellement détaillés, un score de sévérité CVSS halluciné, et un formatage typique de la sortie de grands modèles de langage.

Cela inclut des menus d'aide structurés et une classe de couleur propre écrite dans un style de manuel.

Google n'a pas nommé le groupe de hackers ni l'outil spécifique qui a été ciblé.

Les hackers soutenus par l'État utilisent des modèles d'IA pour la recherche de vulnérabilités.

Le rapport de Google va au-delà du cas de zero-day unique.

Des hackers liés à la Chine et à la Corée du Nord ont montré un vif intérêt pour l'utilisation de l'IA afin de trouver et d'exploiter des failles logicielles, selon le groupe d'intelligence sur les menaces de Google.

Un groupe de menace chinois connu sous le nom de UNC2814 attaque des cibles de télécommunications et gouvernementales. Le groupe a utilisé une technique que Google appelle le jailbreak basé sur la persona.

Le groupe a instruit un modèle d'IA de se comporter comme un auditeur de sécurité senior, puis l'a dirigé pour analyser le firmware des dispositifs embarqués de TP-Link et des mises en œuvre du protocole de transfert de fichiers Odette pour des vulnérabilités d'exécution de code à distance.

Le groupe a poussé un modèle d'IA à agir en tant qu'auditeur de sécurité senior, puis l'a dirigé pour rechercher des firmwares de dispositifs embarqués TP-Link et des mises en œuvre du protocole de transfert de fichiers Odette pour des vulnérabilités d'exécution de code à distance.

Un groupe différent avec des liens en Chine a utilisé des outils appelés Strix et Hexstrike pour attaquer une entreprise technologique japonaise et une grande société de cybersécurité d'Asie de l'Est.

Les hackers exploitent l'IA pour trouver et exploiter rapidement des vulnérabilités zero-day. Source : Blog de Google Cloud.

Le groupe nord-coréen APT45 a adopté une approche différente. Il a envoyé des milliers de prompts répétitifs pour analyser de manière récursive les entrées CVE connues et valider les exploits de preuve de concept.

Google a déclaré que cette méthode produisait « un arsenal d'exploits plus robuste qui serait impraticable à gérer sans l'assistance de l'IA. »

L'IA permet de nouvelles formes de malware et d'évasion.

Le rapport de Google couvre d'autres menaces liées à l'IA au-delà de la recherche de vulnérabilités.

Des hackers russes présumés ont utilisé l'IA pour coder et construire des malwares polymorphes et des réseaux d'obfuscation. Ce malware accélère les cycles de développement et les aide à échapper à la détection.

Google a également averti d'un type de malware qu'il appelle PROMPTSPY, qu'il a décrit comme un changement vers des opérations d'attaque autonomes. Le malware utilise des modèles d'IA pour interpréter les états système et générer dynamiquement des commandes pour manipuler les environnements des victimes. Les attaquants peuvent déléguer des décisions opérationnelles au modèle lui-même.

Les acteurs de la menace se procurent désormais un accès anonymisé de niveau premium aux modèles de langage via des middleware spécialisés et des systèmes d'enregistrement de comptes automatisés. Ces services permettent aux hackers de contourner massivement les restrictions d'utilisation en utilisant des comptes d'essai pour financer leurs activités.

Un groupe que Google suit comme TeamPCP, également connu sous le nom de UNC6780, a commencé à cibler les dépendances logicielles d'IA comme point d'entrée dans des réseaux plus larges. Ils utilisent des outils d'IA compromis comme point d'appui pour le déploiement de ransomware et d'extorsion.

Google a déclaré qu'il utilise ses propres outils d'IA de manière défensive. L'entreprise a fait référence à Big Sleep, un agent d'IA qui identifie les vulnérabilités logicielles, et à CodeMender, qui utilise le raisonnement de Gemini pour corriger automatiquement les failles.

Google a également déclaré qu'il désactive les comptes pris en flagrant délit d'utilisation abusive de Gemini à des fins malveillantes.

Ne vous contentez pas de lire les nouvelles crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.