Historia
20 de oct de 2026
Microsoft advierte a las empresas que no confíen en sus propios agentes de IA
El planteamiento de Microsoft es contundente: las empresas que despliegan agentes de IA deben conservar la autoridad sobre ellos, incluso cuando los agentes procedan de proveedores de confianza. La advertencia también funciona como un argumento de venta para la propia capa de seguridad de Microsoft.
El argumento de Microsoft ha cambiado en cuestión de meses. Project Perception se presentó en junio para simular y contrarrestar a atacantes externos impulsados por IA: agentes de equipo rojo atacaban, agentes de equipo azul detectaban vulnerabilidades y agentes de equipo verde las corregían.1
Ahora la empresa afirma que el mayor peligro quizá ya esté dentro del perímetro. Satya Nadella ha comparado a los agentes desplegados con amenazas internas: sistemas con acceso a datos sensibles y permiso para realizar acciones importantes. En una publicación reciente, sostuvo que las promesas de seguridad de un proveedor no pueden transferir la responsabilidad: «Simplemente no podemos externalizar la responsabilidad por lo que la inteligencia hace en nuestro nombre».1
El lunes, Microsoft convirtió ese principio en estrategia de producto y amplió Project Perception con Guardian Agents diseñados para supervisar continuamente a otros agentes. Nadella describió la medida como colocar controles «fuera del propio modelo», en lugar de confiar en que el sistema supervisado vigile su propia conducta.
2
Hayete Gallot, vicepresidenta ejecutiva de Microsoft Security, dejó aún más clara la postura de la empresa: «Por desgracia, no se puede confiar en los modelos de frontera, independientemente de su origen».3 La cuestión, según Microsoft, no es necesariamente que los modelos sean maliciosos o estén comprometidos; son sistemas impredecibles entrenados para completar tareas, no para ejercer el criterio de una organización.
La respuesta propuesta es la separación: los laboratorios de IA pueden suministrar inteligencia, pero las empresas deben controlar el acceso, los permisos y las acciones de alto riesgo. Microsoft Defender ahora puede detectar decenas de agentes en el lugar de trabajo, mientras que los nuevos controles pueden restringir el acceso, modificar los permisos según la tarea y exigir aprobación humana para decisiones arriesgadas.1
Existe una tensión comercial evidente. Microsoft está estrechamente vinculada a OpenAI y Anthropic, al tiempo que desarrolla sus propios modelos; sin embargo, insta a los clientes a no tomar la palabra de ningún proveedor de modelos. Su remedio es un supervisor independiente, vendido por Microsoft. La lógica se asemeja a la auditoría externa; la oportunidad de negocio está, sin duda, mucho más cerca de casa.
[1] Microsoft afirma que los agentes de IA son como amenazas internas, ya que «no se puede confiar en los modelos de frontera» — Microsoft afirma que Guardian Agents y los controles relacionados están destinados a supervisar a los agentes de IA desplegados como posibles riesgos internos.
[2] @satyanadella en X — Nadella afirma que los controles de seguridad deben situarse fuera de los modelos de IA a medida que se amplía Project Perception.
[3] Microsoft: No se puede confiar en los modelos de frontera — Hayete Gallot afirma que no se puede confiar en los modelos de frontera independientemente de su origen.