54:45Cet enregistrement n'est pas encore disponible.
Navigating Governance in the Age of AI: Strategies for a Digital Future
Télécharger les ressourcesCatégories
À propos de cette session
Sabine Lainer, spécialiste en gouvernance, risque et conformité chez GoSecure, explique comment la sécurité, la vie privée et la gouvernance de l'IA forment trois couches liées, chacune ancrée dans la loi : la LPRPDE, la loi 25 du Québec et le RGPD exigent de sécuriser les renseignements personnels, et la plupart encadrent aussi la décision automatisée, point d'ancrage juridique de l'IA. Elle compare l'approche centralisée de l'AI Act européen, l'approche hybride fédérale-provinciale du Canada et la future AIDA, et le modèle décentralisé américain, État par État (Colorado et Californie jusqu'ici), en notant que ces lois ciblent les mêmes domaines à risque : éducation, emploi, finance, services gouvernementaux, santé, assurance et services juridiques. À l'aide d'exemples fictifs (Terminator, Westworld, un roman) illustrant la crainte d'une décision automatisée incontrôlée, elle présente le cadre de gouvernance IA de GoSecure, qui classe les organisations en six catégories, du développement IA poussé jusqu'à l'usage occasionnel d'outils comme Copilot, puis détaille le contexte, les politiques, la gouvernance des données, le risque et la veille réglementaire. Elle termine avec le cas réel de la FTC contre Rite Aid, dont la reconnaissance faciale censée détecter les voleurs a produit des faux positifs biaisés envers les femmes et les personnes racisées, faute d'évaluation du risque, de tests et de formation, un exemple concret de ce que ces lois cherchent à prévenir.
In an era where artificial intelligence (AI) has become pervasive across numerous facets of society, the imperative for a robust governance framework to ensure its responsible and ethical development, deployment, operation, and usage. This presentation aims to introduce and dissect the concept of AI governance, shedding light on its constituent elements and the operational challenges they pose.
We will delve into the intricate terrain of AI principles, such as accountability, bias, transparency, and risk, illustrating how AI governance frameworks must deftly navigate these complexities to cultivate trust and mitigate potential harms.
The significance of regulatory compliance emerges as a cornerstone, given the swiftly evolving landscape of AI regulations worldwide. From existing legal frameworks to nascent guidelines, we will scrutinize the necessity for an adaptive AI governance framework capable of synchronizing with the rapid advancements in AI technology and the accompanying regulatory shifts.
Central to our discourse is the prominence of risk management, given the diverse array of risks spanning from privacy concerns to cybersecurity threats, algorithmic biases, and unintended consequences. Our exploration will encompass strategies for identifying, assessing, and mitigating these risks, underscoring their integral role within AI governance frameworks.
Furthermore, we will address the convergence of AI governance with privacy and security imperatives, emphasizing the imperative to safeguard sensitive data and thwart unauthorized access or misuse.
In conclusion, this presentation underscores the urgent need for the establishment of comprehensive and adaptable AI governance mechanisms. Such mechanisms are essential for navigating the complexities inherent to AI, thereby maximizing its benefits while minimizing potential risks and harms.
À retenir
- Considérer la gouvernance de l'IA comme un prolongement des programmes de sécurité et de vie privée existants, pas comme une discipline à bâtir de zéro.
- Déterminer d'abord la portée de son organisation : développement IA poussé, hébergement/exploitation, développement vertical avec des modèles existants, IA en soutien au développement, dépendance envers des tiers utilisant l'IA, ou simple usage occasionnel; chaque cas exige un niveau de gouvernance différent.
- Porter une attention particulière à la prise de décision automatisée dans les domaines à haut risque nommés par les lois actuelles (éducation, emploi, finance, services gouvernementaux, santé, assurance, services juridiques), qui font l'objet du contrôle le plus strict.
- Réaliser et documenter une vraie évaluation du risque, des tests et une formation du personnel avant de déployer tout système de décision basé sur l'IA, comme le montre l'échec de reconnaissance faciale de Rite Aid.
- Suivre la loi applicable selon la personne affectée par l'IA, pas selon l'emplacement de l'entreprise ou des serveurs; la juridiction suit la personne touchée, un peu comme pour le RGPD.
Conférenciers
Sabine Lainer
Sabine Lainer is the Senior Advisor at GoSecure, bringing a wealth of knowledge and experience in security and privacy. She holds degrees from the University of Applied Science in Furtwangen, Germany; Brunel University in London, UK; the University… Lire la suiteRéduire
Sabine Lainer is the Senior Advisor at GoSecure, bringing a wealth of knowledge and experience in security and privacy. She holds degrees from the University of Applied Science in Furtwangen, Germany; Brunel University in London, UK; the University of South Australia; McGill University; Concordia University; and the University of Alberta. Sabine is passionate about security, privacy, learning, and teaching. She was awarded an innovative teaching prize in 1997 and was nominated for the Women in IT Award – Security Champion in the UK in 2016. Having lived and worked in nine countries, Sabine is now a proud permanent resident of Canada. Outside of her professional life, Sabine enjoys running, cycling, hiking, paddle boarding, and indulging in science fiction and fantasy stories through various media. A dedicated Star Trek fan, she takes great pride in living in the birthplace of William Shatner.
