Аргументация Microsoft изменилась за считаные месяцы. Проект Perception был представлен в июне для моделирования и противодействия внешним атакам с использованием ИИ: агенты красной команды атаковали, агенты синей команды обнаруживали уязвимости, а агенты зелёной команды их устраняли.¹

Теперь компания заявляет, что большая опасность, возможно, уже находится внутри периметра. Сатья Наделла сравнил развёрнутых агентов с внутренними угрозами — системами, имеющими доступ к конфиденциальным данным и разрешение совершать значимые действия. В недавнем посте он заявил, что обещания поставщика относительно безопасности не могут перенести ответственность: «Мы просто не можем передать на аутсорсинг ответственность за то, что интеллект делает от нашего имени».¹

В понедельник Microsoft воплотила этот принцип в продуктовой стратегии, расширив Project Perception агентами Guardian, предназначенными для непрерывного мониторинга других агентов. Наделла описал этот шаг как размещение средств контроля «вне самой модели», а не как доверие к контролируемой системе в вопросе надзора за собственным поведением.Satya Nadella (satyanadella)²

Хайете Галло, исполнительный вице-президент Microsoft Security, ещё яснее сформулировала позицию компании: «К сожалению, передовым моделям, независимо от их происхождения, доверять нельзя».³ Суть, по словам Microsoft, не обязательно в том, что модели вредоносны или скомпрометированы; это непредсказуемые системы, обученные выполнять задачи, а не руководствоваться суждениями организации.

Предлагаемый ответ — разделение: ИИ-лаборатории могут поставлять интеллект, но предприятия должны контролировать доступ, разрешения и действия с высоким риском. Microsoft Defender теперь может обнаруживать десятки агентов на рабочих местах, а новые средства контроля могут ограничивать доступ, изменять разрешения в зависимости от задачи и требовать одобрения человека для рискованных решений.¹

Здесь присутствует очевидное коммерческое противоречие. Microsoft тесно связана с OpenAI и Anthropic, одновременно разрабатывая собственные модели, — однако она призывает клиентов не принимать на веру слова ни одного поставщика моделей. Её решение — независимый наблюдатель, продаваемый Microsoft. Эта логика напоминает внешний аудит; коммерческая возможность при этом явно оказывается ближе к дому.

[1] Microsoft заявляет, что ИИ-агенты похожи на внутренние угрозы, поскольку «передовым моделям нельзя доверять» — Microsoft заявляет, что агенты Guardian и связанные с ними средства контроля предназначены для надзора за развёрнутыми ИИ-агентами как за потенциальными внутренними рисками.

[2] @satyanadella в X — Наделла говорит, что по мере расширения Project Perception средства контроля безопасности должны располагаться вне ИИ-моделей.

[3] Microsoft: передовым моделям нельзя доверять — Хайете Галло говорит, что передовым моделям нельзя доверять независимо от их происхождения.