La inteligencia artificial ya no es una tendencia emergente: está completamente integrada en los flujos de trabajo diarios de las empresas modernas. Herramientas como ChatGPT, Gemini y Claude están transformando la forma en que las organizaciones operan.
Lo que empezó como simples capacidades de resumen y conversación ha evolucionado rápidamente en agentes inteligentes capaces de ejecutar tareas y tomar decisiones. Muchas de estas herramientas de IA, incluyendo ChatGPT, ya ofrecen conectores a Microsoft 365 y otras plataformas SaaS.
Estas integraciones permiten un acceso fluido a datos críticos de negocio, como correos, archivos, calendarios y chats, optimizando la productividad de los equipos.
Sin embargo, esta conveniencia conlleva riesgos. Los empleados pueden, consciente o inconscientemente, otorgar permisos amplios a estas aplicaciones, exponiendo potencialmente información sensible. Sin una visibilidad profunda sobre cómo se conectan estas aplicaciones de IA y qué datos pueden acceder, los equipos de seguridad operan con puntos ciegos que pueden llevar a exposiciones o uso indebido de datos.
En este artículo, se analiza cómo Microsoft Defender for Cloud Apps ayuda a los equipos de seguridad a obtener mayor visibilidad sobre los permisos concedidos a aplicaciones de IA como ChatGPT al acceder a datos de Microsoft 365. También se comparten buenas prácticas de gobernanza para estas aplicaciones, ayudando a los equipos de seguridad a tomar decisiones informadas y a adoptar medidas proactivas para habilitar el uso seguro de aplicaciones de IA con acceso a datos de Microsoft 365.
Descubre y gobierna ChatGPT y otras apps de IA que acceden a Microsoft 365
Analicemos más de cerca a ChatGPT, cada vez más adoptado en entornos empresariales por su capacidad para agilizar tareas y generar información útil. ChatGPT ha añadido recientemente conectores a servicios de Microsoft 365 como Outlook, SharePoint y Teams, proporcionando acceso a correos electrónicos, archivos, calendarios y chats.
Si bien esto mejora la productividad, también introduce riesgos, especialmente cuando se otorgan permisos extensos sin suficiente supervisión. En estos casos, los datos sensibles de la empresa pueden ser expuestos o utilizados inapropiadamente sin que la organización lo sepa. Defender for Cloud Apps aborda este desafío al ofrecer una visibilidad profunda sobre aplicaciones de IA, como ChatGPT, para que los equipos de seguridad puedan evaluar y controlar cómo estas interactúan con Microsoft 365.
La gobernanza de aplicaciones proporciona un conjunto integral de capacidades de seguridad y gestión de políticas, diseñado para aplicaciones habilitadas con OAuth registradas en entornos de Microsoft Entra, Google y Salesforce.
Permite a los equipos de seguridad:
- Obtener visibilidad y recomendaciones accionables sobre ChatGPT y otras aplicaciones de IA que poseen permisos para acceder a Microsoft 365. También acceder a detalles como información del publicador, tipo de consentimiento (concedido por el administrador o por el usuario), tipo de permiso (delegado, de aplicación o mixto), patrones de uso comunitario (usada comúnmente o rara vez), fecha de último uso, y más.
- Evaluar los permisos de Graph y otras API concedidos y utilizados activamente durante los últimos 90 días para acceder a datos críticos de negocio en Microsoft 365.
Figura 1: Permisos concedidos a ChatGPT y alcances de acceso en Microsoft 365
- Analizar los datos de Microsoft 365 accedidos por ChatGPT y otras aplicaciones a través de plataformas como Exchange, OneDrive y Teams, para comprender tanto el uso de recursos como las actividades de los usuarios. Los equipos de seguridad pueden obtener análisis en profundidad sobre la interacción de ChatGPT con archivos, correos y mensajes de chat o canal, y utilizar consultas KQL predefinidas para analizar registros detallados de los accesos a recursos en los últimos 30 días.
Figura 2: Patrones de acceso a datos y perspectivas a nivel de recursos para actividades de ChatGPT
Buenas prácticas de gobernanza de aplicaciones
La gobernanza de aplicaciones permite que las organizaciones evalúen y controlen proactivamente el comportamiento de las aplicaciones, reduzcan el riesgo y mantengan el control sobre cómo se accede a los recursos, todo dentro del contexto de su ecosistema SaaS existente. Para mejorar la higiene de aplicaciones en tu entorno, es recomendable:
- Seguir el principio de menor privilegio (Zero Trust) revisando y eliminando periódicamente los permisos no utilizados o excesivos concedidos a las aplicaciones.
- Deshabilitar o eliminar aplicaciones no utilizadas para reducir la exposición innecesaria y minimizar la superficie de ataque.
- Monitorear de cerca las aplicaciones con altos privilegios, las cuales representan un mayor riesgo si se configuran incorrectamente o son comprometidas.
- Revisar cuidadosamente las aplicaciones externas de publicadores no verificados, ya que pueden introducir riesgos desconocidos o carecer de garantías de seguridad a nivel empresarial.
Figura 3: La nueva página de aplicaciones en el portal de Microsoft Defender resalta las apps OAuth riesgosas
A medida que la IA generativa se integra más en las empresas, Defender for Cloud Apps proporciona a los equipos de seguridad la visibilidad y control necesarios. Con información detallada sobre permisos, patrones de uso y accesos a datos, las organizaciones pueden aprovechar los beneficios de la IA mientras mantienen seguro su entorno de Microsoft 365.
