O argumento da Microsoft mudou no espaço de poucos meses. O Project Perception foi apresentado em junho para simular e contrariar atacantes externos movidos por IA: agentes de equipa vermelha atacavam, agentes de equipa azul detetavam vulnerabilidades e agentes de equipa verde corrigiam-nas.¹

Agora, a empresa afirma que o maior perigo pode já estar dentro do perímetro. Satya Nadella comparou os agentes implementados a ameaças internas — sistemas com acesso a dados sensíveis e permissão para tomar ações consequentes. Numa publicação recente, defendeu que as promessas de segurança de um fornecedor não podem transferir a responsabilização: “Simplesmente não podemos externalizar a responsabilidade pelo que a inteligência faz em nosso nome.”¹

Na segunda-feira, a Microsoft traduziu esse princípio em estratégia de produto, expandindo o Project Perception com Guardian Agents concebidos para monitorizar continuamente outros agentes. Nadella descreveu a medida como a colocação de controlos “fora do próprio modelo”, em vez de confiar que o sistema supervisionado vigie a sua própria conduta.Satya Nadella (satyanadella)²

Hayete Gallot, vice-presidente executiva da Microsoft Security, tornou a posição da empresa ainda mais clara: “Infelizmente, os modelos de fronteira, independentemente da sua origem, não podem ser confiados.”³ A questão, segundo a Microsoft, não é necessariamente que os modelos sejam maliciosos ou estejam comprometidos; são sistemas imprevisíveis treinados para concluir tarefas, não para exercer o discernimento de uma organização.

A resposta proposta é a separação: os laboratórios de IA podem fornecer inteligência, mas as empresas devem controlar o acesso, as permissões e as ações de alto risco. O Microsoft Defender pode agora detetar dezenas de agentes no local de trabalho, enquanto novos controlos podem restringir o acesso, alterar permissões conforme a tarefa e exigir aprovação humana para decisões arriscadas.¹

Há uma tensão comercial óbvia. A Microsoft está estreitamente ligada à OpenAI e à Anthropic, ao mesmo tempo que desenvolve os seus próprios modelos — mas está a instar os clientes a não aceitarem a palavra de nenhum fornecedor de modelos. A sua solução é um fiscal independente, vendido pela Microsoft. A lógica assemelha-se à auditoria externa; a oportunidade de negócio está inequivocamente mais perto de casa.

[1] Microsoft afirma que agentes de IA são como ameaças internas, pois 'modelos de fronteira não podem ser confiados' — A Microsoft afirma que os Guardian Agents e os controlos relacionados destinam-se a supervisionar agentes de IA implementados como potenciais riscos internos.

[2] @satyanadella no X — Nadella afirma que os controlos de segurança devem ficar fora dos modelos de IA à medida que o Project Perception se expande.

[3] Microsoft: Os modelos de fronteira não podem ser confiados — Hayete Gallot afirma que os modelos de fronteira não podem ser confiados, independentemente da sua origem.