Selon Microsoft, moins de 10 neurones suffisent à piéger un agent d'IA
Le 10 novembre, Microsoft a annoncé Lazarus, un résultat de recherche et non un produit : en modifiant moins de dix neurones, ces petites unités de calcul d'un modèle d'IA, on peut amener un agent, un assistant qui agit seul sur les outils de l'entreprise, à exécuter la commande d'un pirate quand un déclencheur convenu à l'avance, par exemple une date, apparaît. Microsoft dit n'avoir observé aucune attaque réelle.
- Selon Microsoft Research, la division recherche de Microsoft, il suffit de pouvoir modifier le fichier qui contient ce que le modèle a appris, sans le réentraîner, pour y installer le piège. Un petit programme de tri, entraîné sur environ 50 exemples, reconnaît le déclencheur, et une unité de calcul presque inutilisée du modèle est alors réglée pour y réagir.
- Dans la démonstration de Microsoft, le déclencheur du piège est une date ordinaire : quand l'horloge passe à 2027, l'agent télécharge et exécute un programme fourni par l'attaquant, avec les droits qu'on lui a donnés. D'après Microsoft, le modèle modifié passe encore les tests de sécurité habituels, donc rien ne signale le piège.
- Le billet de Microsoft ne publie aucun taux de réussite de la technique. Il précise que Claude Code, l'outil de programmation d'Anthropic, avec le modèle Opus 4.5, a découvert l'essentiel de la méthode de façon autonome pendant la recherche.
© 2026 EXYVIA. Reprise autorisée avec mention « Radar IA EXYVIA » et lien.
Ce que ça change pour une direction
- Faites vérifier d'où vient chaque modèle utilisé par vos équipes : l'éditeur d'origine, une somme de contrôle du fichier (un code qui prouve qu'il n'a pas été modifié) et une copie conservée dans un espace de stockage interne, plutôt qu'un téléchargement sans contrôle. C'est la recommandation de Microsoft.
- Limitez ce qu'un agent peut faire : un compte par agent, des droits minimaux, un espace isolé pour les programmes qu'il produit, et une validation humaine avant d'envoyer des données, de lancer une commande ou de changer des droits.
- Limitez à très peu de comptes le droit de modifier les fichiers de modèles et surveillez ces modifications : selon Microsoft, un compte, une chaîne de déploiement ou un espace de stockage piraté suffirait, et les modèles développés en interne sont aussi exposés.
Sources :
- Microsoft Research, « Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents », 10 novembre 2026
- Microsoft Threat Intelligence, « Detecting sleeper agents hiding in AI model neurons », 10 novembre 2026
- The Next Web, « Microsoft finds AI agents can be backdoored by editing under 10 neurons », 11 novembre 2026
- GBHackers, « Microsoft Researchers Turn AI Agents Into Hidden Backdoors by Modifying Fewer Than 10 Neurons »