L’argument de Microsoft a changé en l’espace de quelques mois. Le projet Perception a été présenté en juin pour simuler et contrer des attaquants externes alimentés par l’IA : des agents de l’équipe rouge attaquaient, des agents de l’équipe bleue détectaient les vulnérabilités et des agents de l’équipe verte les corrigeaient.¹

L’entreprise affirme désormais que le danger le plus grand se trouve peut-être déjà à l’intérieur du périmètre. Satya Nadella a comparé les agents déployés à des menaces internes — des systèmes ayant accès à des données sensibles et l’autorisation d’entreprendre des actions lourdes de conséquences. Dans une publication récente, il a soutenu que les promesses de sécurité d’un fournisseur ne peuvent transférer la responsabilité : « Nous ne pouvons tout simplement pas externaliser la responsabilité de ce que l’intelligence fait en notre nom. »¹

Lundi, Microsoft a traduit ce principe en stratégie produit, en élargissant le projet Perception avec des agents Guardian conçus pour surveiller continuellement d’autres agents. Nadella a décrit cette initiative comme le fait de placer des contrôles « à l’extérieur du modèle lui-même », plutôt que de faire confiance au système supervisé pour surveiller sa propre conduite.Satya Nadella (satyanadella)²

Hayete Gallot, vice-présidente exécutive de Microsoft Security, a rendu la position de l’entreprise encore plus claire : « Malheureusement, les modèles de pointe, quelle que soit leur origine, ne sont pas dignes de confiance. »³ Selon Microsoft, il ne s’agit pas nécessairement de dire que les modèles sont malveillants ou compromis ; ce sont des systèmes imprévisibles entraînés à accomplir des tâches, et non à exercer le jugement d’une organisation.

La réponse proposée est la séparation : les laboratoires d’IA peuvent fournir l’intelligence, mais les entreprises devraient contrôler les accès, les autorisations et les actions à haut risque. Microsoft Defender peut désormais détecter des dizaines d’agents utilisés sur le lieu de travail, tandis que de nouveaux contrôles peuvent restreindre l’accès, modifier les autorisations selon la tâche et exiger une approbation humaine pour les décisions risquées.¹

Une tension commerciale est évidente. Microsoft est étroitement lié à OpenAI et Anthropic tout en développant ses propres modèles — pourtant, l’entreprise exhorte ses clients à ne pas croire sur parole un quelconque fournisseur de modèles. Son remède est un chien de garde indépendant, vendu par Microsoft. La logique rappelle l’audit externe ; l’opportunité commerciale est manifestement bien plus proche de chez elle.

[1] Microsoft affirme que les agents d’IA ressemblent à des menaces internes, car « les modèles de pointe ne sont pas dignes de confiance » — Microsoft affirme que les agents Guardian et les contrôles associés sont destinés à superviser les agents d’IA déployés en tant que risques internes potentiels.

[2] @satyanadella sur X — Nadella affirme que les contrôles de sécurité devraient se situer à l’extérieur des modèles d’IA à mesure que le projet Perception s’étend.

[3] Microsoft : les modèles de pointe ne sont pas dignes de confiance — Hayete Gallot affirme que les modèles de pointe ne sont pas dignes de confiance, quelle que soit leur origine.