Premier pare-feu par application qui intercepte les vers propulsés par l'IA
Les logiciels malveillants augmentés par l'IA interrogent désormais ChatGPT, Claude et Gemini pendant les attaques en cours pour générer des commandes de reconnaissance et échapper à la détection. NetInsightPro identifie les processus hors navigateur effectuant des appels d'API LLM, signale le mouvement latéral autonome dans la fenêtre de 60 secondes suivant une réponse LLM, et escalade lorsque le même schéma de menace apparaît sur 3 hôtes ou plus dans votre réseau.
Disponible dans les formules Pro et Enterprise. MVP de phase 2 — détection et télémétrie. Onglet d'interface d'administration en phase 3 (feuille de route).
Du laboratoire au déploiement confirmé
Les logiciels malveillants augmentés par l'IA sont passés de la recherche théorique à un usage confirmé parrainé par des États en 2025. CrowdStrike a documenté une hausse de 89 % des opérations adverses assistées par l'IA dans son 2026 Global Threat Report.[5]
Premier ver auto-réplicant démontré ciblant les écosystèmes GenAI. A exploité l'empoisonnement de base de données RAG et l'intégration de prompts adversariaux pour se propager à travers ChatGPT-4, Gemini Pro et LLaVA.
Premier logiciel malveillant confirmé in the wild qui interroge un LLM en direct (Hugging Face, Qwen2.5) pendant des attaques actives pour générer des commandes de reconnaissance Windows, puis exfiltre des documents via SSH vers un C2 d'attaquant.
Porte dérobée utilisant l'OpenAI Assistants API comme canal C2. Une DLL .NET interroge un compte OpenAI contrôlé par l'attaquant pour des commandes chiffrées — le trafic est du HTTPS standard vers api.openai.com, indiscernable d'un usage légitime par un développeur via l'inspection TLS.
MVP de phase 2 : trois heuristiques de détection
La télémétrie du trafic sortant par application existante de NetInsightPro crée une surface de détection unique. La phase 2 livre trois heuristiques au meilleur rapport signal/bruit — choisies pour leurs faibles taux de faux positifs après calibrage de la liste d'autorisation.
Trafic sortant vers les API LLM depuis des processus hors navigateur
Alerte lorsqu'un processus ne figurant pas sur la liste d'autorisation du locataire établit des connexions vers des points de terminaison d'API LLM connus (api.openai.com, api.anthropic.com, generativelanguage.googleapis.com, Hugging Face, Mistral, Cohere). Des processus non-développeurs appelant ces points de terminaison constituent l'indicateur fondamental à la fois pour le LLM-comme-C2 (schéma SesameOp) et pour la reconnaissance assistée par LLM (schéma PROMPTSTEAL).
Détection de mouvement latéral post-LLM
Signale lorsque le même processus (ou un enfant qu'il engendre) initie une connexion SSH, SMB ou API Kubernetes vers un hôte hors de la ligne de base de l'appareil dans les 60 secondes suivant la réception d'une réponse d'API LLM. C'est le signal d'une reconnaissance orchestrée par LLM — le schéma LAMEHUG/PROMPTSTEAL où le logiciel malveillant reçoit des commandes générées par LLM et tente immédiatement un mouvement latéral.
Réplication inter-hôtes du hash de processus
Escalade lorsque le même hash de binaire de processus apparaît en effectuant des appels d'API LLM sur 3 appareils distincts ou plus au sein d'un locataire dans une fenêtre de 5 minutes, et que ce hash n'était pas auparavant dans la ligne de base du locataire. C'est le signal de propagation de ver le plus clair — un nouveau binaire se propageant à plusieurs hôtes et appelant des API d'IA.
Les spécifications complètes des heuristiques, y compris H3 (asymétrie d'octets), H4 (lignée de processus), H5 (mouvement latéral post-LLM) et H6 (accès au port LLM local) figurent dans la feuille de route des phases 3–5. Les estimations de faux positifs sont pré-calibrage ; le réglage de la liste d'autorisation réduit significativement les taux en 14 jours par locataire.
Détection sans lire vos prompts.
La détection des menaces IA fonctionne au niveau des métadonnées réseau. NetInsightPro ne voit jamais le texte des prompts ni le contenu des réponses LLM. La détection repose entièrement sur des signaux comportementaux : quel processus se connecte, à quel point de terminaison, à quel intervalle et à quel volume d'octets.
La capture d'entropie de charge utile (heuristique H3) est en opt-in par locataire et désactivée par défaut. Chaque locataire peut se désinscrire entièrement de la télémétrie des menaces IA via une seule clé AppConfig.
- Aucun texte de prompt brut ni contenu de réponse LLM n'est jamais stocké, journalisé ou transmis — seules des métadonnées réseau (noms d'hôtes de points de terminaison, comptages d'octets, intervalles de temps)
- Les métadonnées de processus se limitent au nom du processus et à un hash de lignée à sens unique — les arguments de ligne de commande complets sont explicitement exclus
- La capture d'entropie de charge utile (heuristique H3) est en opt-in par locataire, désactivée par défaut
- Opt-out par locataire : clé AppConfig ai_threat_telemetry_enabled (activée par défaut) — lorsqu'elle est réglée sur false, aucun événement d'heuristique de menace IA n'est collecté ni stocké
- Aucune agrégation inter-locataires des données de menaces — la corrélation s'exécute uniquement au sein de la pile du locataire
- GDPR Art. 5 minimisation des données et limitation de la conservation : les lignes d'anomalies de menaces IA sont conservées 90 jours (comme les TenantAnomalies existantes)
Inclus dans Pro et Enterprise.
Pro
Accès anticipé- H1 : alerte de trafic sortant vers les API LLM sur votre appareil
- H5 : détection de mouvement latéral post-LLM (fenêtre de 60 s)
- H7 : signal de réplication de hash de ver (fenêtre de 5 min)
- Opt-out par locataire disponible
- Télémétrie des menaces IA dans l'historique des flux de votre appareil
Enterprise
Accès anticipé- Tout ce qui est dans Pro
- Signal de ver H7 inter-hôtes à travers votre flotte
- Lignes d'anomalies de menaces IA dans la DDB d'administration (phase 2)
- Onglet Menaces IA de l'interface d'administration (phase 3 — feuille de route)
- Modèle de politique de blocage ai_worm_guard (phase 4 — feuille de route)
- Transmission SIEM des valeurs de menace ai_category (OCSF)
La phase 2 est en ligne. Les phases 3–5 arrivent.
Le MVP de phase 2 a livré la télémétrie de détection et la visibilité côté backend. Nous sommes explicites sur ce qui est en ligne par rapport à ce qui figure dans la feuille de route afin que vous puissiez planifier vos déploiements avec précision.
- H1 : trafic sortant vers les API LLM depuis des processus non autorisés
- H5 : détection de mouvement latéral post-LLM (fenêtre de 60 s)
- H7 : réplication de binaire inter-hôtes (signal de ver, fenêtre de 5 min)
- Nouvelles valeurs de télémétrie ai_category émises par l'agent
- Visibilité backend DynamoDB pour les événements détectés
- Onglet Menaces IA de la console d'administration (/admin/tenants/{id}/ai-threats)
- Vue détaillée des anomalies côté locataire avec ventilation par heuristique
- Guide d'intégration SIEM pour les nouvelles valeurs ai_category
- Heuristiques H2 anomalie de polling + H4 lignée de processus
- Écran Menaces IA mobile
- Modèle de politique Enterprise ai_worm_guard (mode blocage, opt-in explicite)
- Interface en libre-service pour la liste d'autorisation des développeurs
- Intégration de flux IOC communautaire (catégorie IA URLhaus, tags ver-IA MISP)
- Rapprochement de domaines C2 connus pour les familles de malwares abusant des LLM
- Propagation automatisée IOC-vers-règle-de-blocage pour Enterprise
Références
- Cohen, S., Bitton, R., Nassi, B. "Here Comes the AI Worm: Unleashing Zero-click Worms that Target GenAI-Powered Applications." arXiv:2403.02817, mars 2024 (révisé en janvier 2025). Cornell Tech.
- CERT-UA / Splunk Threat Research. "LAMEHUG's LLM-Driven Cyber Intrusion." Splunk Security Blog, juillet 2025.
- Google Threat Intelligence Group (GTIG). "GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools." Google Cloud Blog, 2025. Couvre PROMPTSTEAL, PROMPTFLUX, l'attribution à APT28.
- Microsoft Security Blog. "SesameOp: Novel backdoor uses OpenAI Assistants API for command and control." 3 novembre 2025.
- CrowdStrike. "2026 CrowdStrike Global Threat Report: AI Accelerates Adversaries and Reshapes the Attack Surface." février 2026.
Parlez-nous de la détection de vers IA.
Dites-nous la taille de votre flotte, votre SIEM et votre IdP. Nous vous présenterons les heuristiques de la phase 2, le processus de calibrage de la liste d'autorisation et le calendrier de l'interface d'administration de la phase 3. Pas de spam. Réponse sous un jour ouvré.
Formules Pro et Enterprise · Accès anticipé · MVP de phase 2 livré