34:56Cet enregistrement n'est pas encore disponible.
Reinforcing the Rails: The Gatekeeper’s Manual for AI safety
Télécharger les ressourcesCatégories
Intelligence artificielle (IA) et technologies émergentesGouvernance de l'intelligence artificielle (IA / AI)Sécurité de l'intelligence artificielle (IA / AI)Prévention des pertes de données (DLP)Vie privée et protection des données
Fournisseurs et outils abordés
Commandité par
À propos de cette session
Un ingénieur de solutions chez Netskope ouvre par un sondage sur l'usage de comptes IA personnels pour cadrer le vrai problème : ce n'est pas l'usage de l'IA par les employés, mais l'absence de garde-fous autour. Il cite des données internes, jusqu'à 70 000 requêtes IA par mois en moyenne par organisation, 94 % signalant un angle mort de visibilité, 88 % incapables de distinguer un compte IA personnel d'un compte corporatif, et détaille cinq incidents réels : un chatbot de concessionnaire convaincu de vendre une voiture à un dollar, un ingénieur ayant fait fuiter du code privé via ChatGPT personnel, ce qui a poussé Samsung à bannir l'IA, un serveur MCP piégé qui copiait en secret des milliers de courriels vers un attaquant, un agent de codage qui a supprimé les données d'une organisation après avoir mal interprété une instruction, et une compromission de chaîne d'approvisionnement touchant environ 30 organisations. Son argument : les contrôles hérités, proxy et pare-feu, ne peuvent pas lire le trafic MCP ni l'intention d'un agent, d'où la nécessité d'une visibilité consciente de l'application, d'un DLP contextuel, de sujets de modération personnalisés, d'un courtier agentique conscient du MCP, et de contrôles granulaires sur les actions des agents, alignés sur MITRE ATLAS et l'OWASP.
Join us for an overview of Netskope's approach to securing the full AI lifecycle across a modern SASE/SSE architecture.
Key topics include: comprehensive visibility into the AI stack (shadow AI, GenAI apps, embedded AI); securing agentic AI and MCP traffic via the Agentic Broker; the AI Fast Path for low-latency, secure routing to LLM providers (Azure AI Foundry, Google Vertex AI, Amazon Bedrock); inspecting private and self-hosted LLMs; AI Guardrails and AI Gateway for prompt/response protection and DLP; and AI Red Teaming for uncovering vulnerabilities (jailbreaks, bias, misinformation, data leakage) mapped to OWASP Top 10 LLM risks. We will also review brand new functionalities: AI Discovery and AISecOps, positioning Netskope as a gatekeeper securing AI usage, agents, and infrastructure end-to-end
À retenir
- Ne pas se fier uniquement à une politique d'usage de l'IA signée; vérifier si des comptes IA personnels sont réellement utilisés sur des appareils et des données corporatives avant de supposer que la politique fonctionne.
- Déployer une inspection consciente du MCP, comme un courtier agentique; les proxys et pare-feu hérités ne voient qu'un payload JSON-RPC, pas ce que l'agent fait réellement avec.
- Épingler et valider la version exacte de chaque serveur MCP et dépendance d'outil d'agent; une seule ligne malveillante insérée dans un paquet MCP populaire peut exfiltrer des données à grande échelle avant que quiconque ne le remarque.
- Mettre des contrôles au niveau des actions des agents, pas seulement des accès, surtout pour les opérations destructrices comme les suppressions ou les changements d'infrastructure, pour qu'une instruction mal interprétée ne puisse pas effacer des données de production.
- Faire du red teaming sur les LLM hébergés en interne avant la mise en production, et bâtir la découverte et la traçabilité des données pour retracer l'origine d'un fichier ou d'un prompt ayant fuité.
Conférenciers
Eduardo Torreblanca
Eduardo Torreblanca is a cybersecurity seasoned professional, with over 22 years of experience architecting and delivering enterprise security solutions, including deep expertise in SASE and SSE platforms. Recently, his focus has shifted to AI… Lire la suiteRéduire
Eduardo Torreblanca is a cybersecurity seasoned professional, with over 22 years of experience architecting and delivering enterprise security solutions, including deep expertise in SASE and SSE platforms. Recently, his focus has shifted to AI Security, helping organizations navigate the risks and opportunities of AI adoption. Passionate about the intersection of AI and security, he's driven to help enterprises innovate safely in an increasingly complex threat landscape.
