34:55Cet enregistrement n'est pas encore disponible.
Bridging the AI Bias Gap: Proactive Initiatives in Cybersecurity Approaches
Télécharger les ressourcesCatégories
À propos de cette session
Mina Movahedi Shakib, enquêtrice en menaces cybernétiques au centre d'opérations de sécurité de Bell Canada, explique ce qu'est le biais de l'IA et pourquoi trop se fier à l'IA constitue une nouvelle menace, selon le Top 10 OWASP pour l'IA générative. Elle distingue trois sources de biais: les données (biais historique, de représentation, de mesure, d'étiquetage, d'agrégation et de rapport, illustrés par l'outil de recrutement biaisé d'Amazon et les biais raciaux en reconnaissance faciale et en santé), l'algorithme (discrimination selon l'âge dans un système de retraite, biais de crédit et de prêt selon le code postal, diffusion publicitaire biaisée sur Facebook), et l'humain (biais du développeur, de confirmation et d'évaluation). Elle applique tout cela à la cybersécurité: reconnaissance faciale, détection d'intrusion et classification de maliciels biaisées, et les vulnérabilités qui en découlent, dont l'empoisonnement de données qui entraîne les équipes défensives à considérer de vraies menaces comme bénignes. Le cas de l'outil COMPAS d'évaluation de récidive montre que les accusés noirs sont deux fois plus souvent étiquetés à tort comme à haut risque que les accusés blancs. Elle termine sur des trousses d'atténuation comme AI Fairness 360, des vérifications de biais aux étapes de pré-, in- et post-traitement, et un plan d'action fondé sur la diversité, la transparence, la supervision humaine et la gouvernance, destiné aux développeurs, équipes de sécurité, dirigeants et décideurs.
AI bias in cybersecurity can lead to false positives, security vulnerabilities, and unfair surveillance. This presentation explores bias mitigation strategies, including diverse data, algorithmic fairness, human oversight, and ethical governance to enhance trustworthy AI-driven threat detection.
À retenir
- Traiter la dépendance excessive à l'IA comme une catégorie de menace à part entière (OWASP LLM09, désinformation): valider les résultats de l'IA plutôt que de les copier-coller, surtout pour classer un incident.
- Vérifier que les données d'entraînement ou de référence représentent des populations, des langues et des systèmes d'exploitation moins courants diversifiés; l'exactitude de la reconnaissance faciale et le support linguistique se dégradent d'abord pour les groupes sous-représentés.
- Surveiller les variables de substitution (code postal, historique d'achats, style de langage) qui recréent la discrimination que des champs comme l'âge ou l'origine ethnique déclencheraient directement.
- Se prémunir contre l'empoisonnement de données: un attaquant peut injecter délibérément des signaux d'apparence bénigne pour entraîner vos outils OSINT ou de détection à mettre en liste blanche de vraies menaces.
- Intégrer des vérifications de biais aux trois étapes d'un modèle LLM (pré-traitement, traitement et post-traitement) et garder une boucle de rétroaction avec supervision humaine plutôt que de traiter la sortie de l'IA comme une décision finale.
Conférenciers
Mina Movahedi Shakib
Mina Movahedi Shakib is a seasoned cybersecurity professional with over a decade of experience in the tech industry. Her foundation in Wireless Networking and Cybersecurity, combined with her current role as a Cyber Threat Investigator at Bell… Lire la suiteRéduire
Mina Movahedi Shakib is a seasoned cybersecurity professional with over a decade of experience in the tech industry. Her foundation in Wireless Networking and Cybersecurity, combined with her current role as a Cyber Threat Investigator at Bell Canada's Security Operations Center, makes her a vital asset in safeguarding digital landscapes. Mina thrives in the fast-paced world of threat detection, incident response, and security operations, always seeking innovative ways to advance security measures. Mina is not just about technical expertise; she is a dynamic speaker at numerous in-person and virtual cybersecurity conferences, including HackFest2024, LCL2025, Ottawa CIS 2025, ISC2 Toronto Chapter, 2025 annual cybersecurity summit and CIBC events. She is also deeply committed to mentorship, actively empowering women in technology and fostering the next generation of innovators. Passionate about exploring the intersection of cybersecurity and artificial intelligence, Mina believes in the transformative potential of AI-driven solutions to tackle real-world challenges, especially in enhancing security and efficiency.
