L'argomentazione di Microsoft è cambiata nel giro di pochi mesi. Project Perception è stato introdotto a giugno per simulare e contrastare gli attaccanti esterni potenziati dall'IA: gli agenti red team attaccavano, gli agenti blue team rilevavano le vulnerabilità e gli agenti green team le risolvevano.¹

Ora l'azienda afferma che il pericolo maggiore potrebbe trovarsi già all'interno del perimetro. Satya Nadella ha paragonato gli agenti implementati a minacce interne — sistemi con accesso a dati sensibili e autorizzazione a intraprendere azioni rilevanti. In un recente post, ha sostenuto che le promesse di sicurezza di un fornitore non possono trasferire la responsabilità: «Semplicemente non possiamo esternalizzare la responsabilità di ciò che l'intelligenza fa per nostro conto».¹

Lunedì, Microsoft ha tradotto questo principio in strategia di prodotto, ampliando Project Perception con Guardian Agents progettati per monitorare continuamente altri agenti. Nadella ha descritto la mossa come l'introduzione di controlli «all'esterno del modello stesso», anziché confidare che il sistema supervisionato vigili sulla propria condotta.Satya Nadella (satyanadella)²

Hayete Gallot, vicepresidente esecutiva di Microsoft Security, ha reso la posizione dell'azienda ancora più esplicita: «Purtroppo, i modelli di frontiera, indipendentemente dalla loro origine, non sono affidabili».³ Il punto, secondo Microsoft, non è necessariamente che i modelli siano malevoli o compromessi; sono sistemi imprevedibili addestrati a completare compiti, non a esercitare il giudizio di un'organizzazione.

La risposta proposta è la separazione: i laboratori di IA possono fornire l'intelligenza, ma le imprese dovrebbero controllare accesso, autorizzazioni e azioni ad alto rischio. Microsoft Defender può ora rilevare decine di agenti sul posto di lavoro, mentre i nuovi controlli possono limitare l'accesso, modificare le autorizzazioni in base all'attività e richiedere l'approvazione umana per decisioni rischiose.¹

Esiste un'evidente tensione commerciale. Microsoft è strettamente legata a OpenAI e Anthropic, mentre sviluppa anche i propri modelli — eppure sta esortando i clienti a non prendere per buone le parole di alcun fornitore di modelli. Il suo rimedio è un organismo di vigilanza indipendente, venduto da Microsoft. La logica ricorda la revisione esterna; l'opportunità commerciale è inequivocabilmente più vicina a casa.

[1] Microsoft afferma che gli agenti di IA sono come minacce interne poiché «i modelli di frontiera non sono affidabili» — Microsoft afferma che Guardian Agents e i controlli correlati sono destinati a supervisionare gli agenti di IA implementati come potenziali rischi interni.

[2] @satyanadella su X — Nadella afferma che i controlli di sicurezza dovrebbero trovarsi all'esterno dei modelli di IA con l'espansione di Project Perception.

[3] Microsoft: i modelli di frontiera non sono affidabili — Hayete Gallot afferma che i modelli di frontiera non sono affidabili indipendentemente dalla loro origine.