35:14Cet enregistrement n'est pas encore disponible.
Pragmatic and Trustworthy AI in Cybersecurity
Télécharger les ressourcesCatégories
À propos de cette session
Gary Givental, architecte en chef de la plateforme X-Force chez IBM, retrace l'évolution de l'IA en cybersécurité, des systèmes experts des années 1980 jusqu'à l'apprentissage automatique, l'apprentissage profond et maintenant l'IA générative, en soutenant que la fiabilité doit croître au même rythme que les capacités. Il décrit les failles propres à chaque génération : prolifération ingérable de règles et sabotage interne dans les systèmes experts de type SIEM, non-déterminisme et données d'entraînement de mauvaise qualité pour l'apprentissage automatique, puis biais, hallucinations et injection de prompts pour les grands modèles de langage. S'appuyant sur son expérience chez IBM à bâtir l'analytique de sécurité et le système ATDS, il présente une démarche en six étapes pour faire passer un modèle du laboratoire à la production en toute sécurité : preuve de concept, mode passif avec mesure de l'accord et du désaccord avant toute action automatisée, contrôles d'adhésion progressive par client, règles d'exclusion, présence humaine constante dans la boucle, et audits réguliers qui réinjectent les corrections dans les données d'entraînement. Il conclut en décrivant un virage vers un modèle de confiance appuyé sur des métriques, à mesure que cette discipline, qu'il nomme MLSecOps, gagne en maturité. Une courte période de questions aborde un exemple de faux négatif causé par une décision d'analyste insuffisamment approfondie, propagée par apprentissage par transfert.
À retenir
- Déployer un nouveau modèle en mode passif d'abord, en étiquetant ou en notant le trafic sans agir, et mesurer l'accord et le désaccord avec les analystes humains avant d'automatiser quoi que ce soit.
- Conserver un système expert à base de règles dans le pipeline comme point de contrôle humain même après le déploiement de l'apprentissage automatique, pour que le trafic connu comme sûr ou dangereux ne dépende jamais d'un modèle non déterministe.
- Mettre en place des contrôles explicites d'adhésion et de retrait pour pouvoir exclure de nouveaux clients, centres de données ou types de trafic de toute action automatisée tant que la confiance et les données d'entraînement ne sont pas suffisantes.
- Faire des audits quotidiens et hebdomadaires des résultats du modèle et réinjecter les corrections dans les données d'entraînement, car une décision d'analyste mal étiquetée peut se propager vers les modèles d'autres clients par apprentissage par transfert.
- Traiter les systèmes d'IA de sécurité comme une discipline à part (MLSecOps) avec ses propres contrôles d'accès, car compromettre les données d'entraînement ou la base de règles est aussi dangereux que compromettre l'environnement du client.
Conférenciers
Gary Givental
Chief Architect for IBM Consulting Cyber Security Services global MSS Platform, hands-on technical leader, IBM recognized Master Inventor with over a dozen patents, mentor, AI enthusiast, pragmatic Design Thinking practitioner, Agile grey beard… Lire la suiteRéduire
Chief Architect for IBM Consulting Cyber Security Services global MSS Platform, hands-on technical leader, IBM recognized Master Inventor with over a dozen patents, mentor, AI enthusiast, pragmatic Design Thinking practitioner, Agile grey beard, data geek, longtime yogi and martial artist.
Responsible for the architecture strategy, engineering and daily operation of IBM's Managed Security X-Force Protection Platform - a global security analytics platform that detects and monitors cyber threats, automates threat disposition and response for trillions of logs per day across 350+ customers.
Security Analytics Guild lead, responsible for driving innovation and technical strategy for AI, machine learning, threat detection and response automation for Managed Security Services with collaboration across broader IBM Security division, including IBM Research.
Receiver of IBM's 2019 Corporate Recognition Award and Outstanding Technical Achievement Award for Advanced Threat Disposition System. ATDS uses machine learning and expert system technology to automatically disposition threats, increasing accuracy by 20-30%, reducing triage cycle time by 50-60%. The ATDS platform contributed to IBM being named a Global Leader in Managed Security Services by Forrester in 2020.
