54:45Cet enregistrement n'est pas encore disponible.
Catégories
Intelligence artificielle (IA) et technologies émergentesSécurité de l'intelligence artificielle (IA / AI)Gestion des identités et des accès (GIA / IAM)Menaces et renseignement
Commandité par
À propos de cette session
Un chercheur en menaces de FortiGuard Labs (Aamir Lakhani, de Fortinet, jamais nommé dans l'enregistrement mais dont le rôle correspond au conférencier lié) montre à quel point l'IA générative produit facilement des réponses fausses avec assurance, à l'aide d'une image de Google Copilot d'un hôtel de Singapour dotée d'une tour supplémentaire non construite, puis explique des catégories d'empoisonnement de modèle comme l'inversion, le vol et l'évasion de modèle, dont un cas où un clavardeur a révélé la liste de patients d'un médecin fictif. Son projet principal entraîne un système de reconnaissance faciale sur des photos publiques étiquetées selon des attributs comme la préférence de vote ou l'humeur autodéclarée, atteignant environ 50% d'exactitude pour le sexe et l'humeur à partir d'un visage, mais beaucoup moins pour l'emploi; il esquisse un scénario où un acteur étatique pourrait combiner identifiants divulgués et ce ciblage pour repérer des personnes d'une origine ethnique donnée à l'étranger plutôt que d'attaquer toute une population. Il présente aussi le malware 2.0 : utiliser des clavardeurs pour réécrire de vieux maliciels afin de contourner antivirus et EDR, automatiser la reconnaissance et récolter des identifiants divulgués, ainsi que des techniques de piratage d'invites qui extraient des réponses restreintes en présentant la demande comme éducative. La période de questions porte sur l'origine de l'empoisonnement de données et sur l'élimination des biais des modèles d'IA.
Data poisoning and source manipulation are significant concerns of potential AI attacks that threat actors may use to corrupt data, spread false narratives and fake news, and engage in disinformation campaigns. This session will focus on how AI models can be manipulated and how the information we get from them may not always be ideal or even accurate. The use of AI tools, AI models, and AI technology is spreading faster than ever. However, simple mistakes may exponentially multiply a threat. In this session, we will examine common AI attacks and how threat actors are starting to take advantage of the offensive side.
À retenir
- Ne pas se fier à une image ou une réponse générée par l'IA comme source factuelle en soi; l'image de l'hôtel montrée était fausse avec assurance à cause de discussions récentes et sans rapport en ligne.
- Restreindre ce que les outils d'IA internes peuvent révéler des données d'entraînement; un clavardeur de santé a laissé fuir les détails de prescription d'un patient fictif par de simples questions de suivi (une attaque par inversion de modèle).
- S'attendre à ce que les attaquants réutilisent et déguisent d'anciens maliciels avec l'IA plutôt que d'en écrire de nouveaux, un clavardeur pouvant les réécrire pour contourner les signatures antivirus et EDR avec peu d'effort.
- Considérer le piratage d'invites, reformuler une demande restreinte comme éducative ou hypothétique, comme un moyen réaliste d'extraire des réponses interdites des clavardeurs publics, et tester ses propres outils d'IA contre cette technique.
- Reconnaître que le biais des modèles vient surtout des données d'entraînement et est très difficile à éliminer complètement; prévoir des tests continus plutôt qu'un correctif ponctuel.
Conférenciers
Aamir Lakhani
Aamir Lakhani is a leading global threat research architect at FortiGuard Labs. He provides IT security solutions and cybersecurity strategies to major enterprises and government organizations. Mr. Lakhani creates technical security strategies and… Lire la suiteRéduire
Aamir Lakhani is a leading global threat research architect at FortiGuard Labs. He provides IT security solutions and cybersecurity strategies to major enterprises and government organizations. Mr. Lakhani creates technical security strategies and leads security implementation projects for Fortune 500 companies. Industries of focus include healthcare providers, educational institutions, financial institutions, and government organizations. Aamir has designed offensive counter-defense measures for the Department of Defense and national intelligence agencies. He has also assisted organizations with safeguarding IT and physical environments from attacks perpetrated by underground cybercriminal groups. Mr. Lakhani is considered an industry leader for creating detailed security architectures within complex computing environments. His areas of expertise include cyber defense, mobile application threats, malware management, Advanced Persistent Threat (APT) research, and investigations relating to the Internet’s dark security movement. He is the author or contributor of several books, and has appeared on FOX Business News, National Public Radio, and other media outlets as an expert on cybersecurity.
