54:45This recording is not available yet.
Derrière la ligne de front chez Google: Point de vue sur les enjeux de sécurité de l’IA
Download resourcesCategories
Cloud SecuritySaaS & Shadow ITPrivacy & Data ProtectionData GovernancePrivacy LawPeople, Culture & Careers
Vendors and tools discussed
About this session
Nicolas Bédard, a customer engineer at Google and part-time cybersecurity instructor at McGill, shares what he has observed helping clients run AI projects. He opens with a McKinsey figure on the revenue and productivity gains companies expect from AI, then draws a line between securing AI and using AI to secure things, saying this talk is only about the former. He distills three problems: security teams rarely understand how AI works because business units drive initiatives without them; security gets involved too late, after a prototype exists; and governance and risk frameworks are not ready. He walks through a simplified AI pipeline, data collection, training, foundation models, deployment, and inference, mapping threats at each stage: data abuse, poisoning, model theft (citing a real incident where a trained model leaked to Hugging Face), and downstream issues like PII leakage through chatbots. He compares unsanctioned AI use to the rise of Bring Your Own Device around 2010, tells an anecdote about an employee running client mortgage data through free ChatGPT, connects Quebec's Law 25 to AI data governance, and closes by presenting Google's six-principle Secure AI Framework (SAIF) as a vendor-agnostic starting point.
L'IA transforme rapidement le monde et est sur le point de révolutionner les industries aussi profondément que l'Internet, l'électricité et l'imprimerie. En tant qu'expert en cybersécurité chez Google, j'ai acquis des connaissances sur le paysage émergent de la sécurité de l'IA. En interagissant avec des clients qui mettent en œuvre l'IA au sein de leurs organisations, j'ai constaté l'ampleur des défis de sécurité de l'IA, qui imprègnent tous les aspects des opérations d'une entreprise. Cette session approfondira mes expériences chez Google, soulignant l'urgence de la préparation à la sécurité de l'IA et vous dotant de stratégies pour relever proactivement ces défis.
Key takeaways
- Get your security team involved in AI projects from day one, not after the prototype is built, since business units usually launch initiatives without them.
- Update your information security policy to explicitly cover AI use cases, and check whether it addresses which tools employees may use with company or customer data.
- Treat free-tier public AI tools (basic ChatGPT, Gemini) differently from enterprise versions: the free tiers reuse your inputs to train their models.
- Run AI security awareness training the same way you run phishing training, most employees using unsanctioned AI tools genuinely don't know it's risky.
- Map data residency and right-to-erasure requirements (e.g. Law 25, GDPR) against your AI vendors before training data leaves your control, since you may not be able to comply once it's mixed into a model.
Speakers
Nicolas Bédard
En tant que Google Cloud CE, j'aide les clients à résoudre leurs défis commerciaux à l'aide de solutions basées sur le cloud. J'ai plus de 20 ans d'expérience dans les domaines de la cybersécurité et de l'ingénierie réseau, et je détiens des… Read moreRead less
En tant que Google Cloud CE, j'aide les clients à résoudre leurs défis commerciaux à l'aide de solutions basées sur le cloud. J'ai plus de 20 ans d'expérience dans les domaines de la cybersécurité et de l'ingénierie réseau, et je détiens des certifications de Google Cloud, AWS, Microsoft, Forrester, Palo Alto Networks et Aruba Networks. J'enseigne également des cours de cybersécurité à l'Université McGill, où je partage mes connaissances et ma passion avec les étudiants grâce à l'apprentissage pratique et à des scénarios réels.
