34:56Cet enregistrement n'est pas encore disponible.
Sécurisez l’avenir : IA, infonuagique et cyberrisque
Télécharger les ressourcesCatégories
Intelligence artificielle (IA) et technologies émergentesSécurité de l'intelligence artificielle (IA / AI)Sécurité applicativeVie privée et protection des données
Commandité par
À propos de cette session
Fouad Hamdache, ingénieur de solutions chez Trend AI, déroule une chaîne d'attaque fictive mais réaliste contre le clavardeur de service à la clientèle d'une organisation moyenne (« Municorp »), calquée sur le Top 10 OWASP pour les LLM. Les attaquants sondent d'abord le bot avec des requêtes malformées pour faire fuiter son modèle d'analyse, puis utilisent une injection de prompt indirecte, cachée dans un avis publié sur un forum tiers, pour lui faire révéler son prompt système, ses outils internes et son accès API. Ils abusent ensuite d'une API interne de résumé non validée pour exfiltrer des données clients brutes, puis glissent une commande shell dans un prompt pour obtenir une exécution de code à distance sur l'infrastructure de production, jusqu'à l'accès aux secrets, aux identifiants et à la propriété intellectuelle. Il rejoue la même chaîne en montrant où chaque étape aurait pu être arrêtée : analyse et red teaming avant déploiement, une passerelle « AI Guard » en temps réel qui inspecte chaque entrée et sortie, l'analyse des images de conteneurs et la surveillance comportementale, et une conception zéro confiance à privilège minimal. Il termine sur la défense en profondeur, des utilisateurs aux données, et sur les exigences de résidence des données au Canada, précisant que Vision One de Trend AI garde les données clients en territoire canadien.
Un clavardeur de service à la clientèle peut devenir la porte d'entrée d'une brèche complète. Fouad Hamdache, ingénieur de solutions chez Trend AI, déroule une chaîne d'attaque contre un agent conversationnel, calquée sur le Top 10 OWASP pour les LLM : sondage du bot par requêtes malformées pour révéler son fonctionnement interne, injection de prompt indirecte cachée dans un avis de forum tiers pour extraire le prompt système et les outils accessibles, abus d'une API interne de résumé pour exfiltrer des données clients, puis exécution de code à distance sur l'infrastructure de production via une commande shell glissée dans un prompt. La session rejoue chaque étape pour montrer où l'intercepter : analyse et red teaming avant déploiement, passerelle IA inspectant entrées et sorties en temps réel, surveillance des conteneurs, conception zéro confiance et résidence des données au Canada.
À retenir
- Traiter tout clavardeur IA orienté client comme une surface de reconnaissance : des requêtes malformées et des messages d'erreur trop bavards peuvent révéler le modèle d'analyse et l'architecture interne avant même une vraie attaque.
- Analyser le risque d'injection de prompt avant le déploiement (red teaming IA automatisé), puisque l'attaque décrite a commencé par une injection de prompt indirecte cachée dans un avis banal, pas par un zero-day sophistiqué.
- Déployer une passerelle en temps réel qui inspecte chaque entrée et sortie d'une application IA (type « AI Guard ») pour bloquer en transit les fuites de prompt système, les instructions malveillantes et l'exfiltration de données.
- Appliquer une portée zéro confiance à privilège minimal aux agents IA eux-mêmes : un agent conçu pour résumer devrait être structurellement incapable d'exécuter du SQL brut ou des commandes shell, pas seulement dissuadé de le faire.
- Sécuriser l'infrastructure sur laquelle tourne l'IA, pas seulement le modèle : l'analyse des images de conteneurs et la surveillance comportementale en exécution auraient fermé le chemin utilisé pour atteindre les serveurs de production et les secrets.
Conférenciers
Fouad Hamdache
Fouad Hamdache is a Senior Cybersecurity Solutions Consultant at Trend Micro, with more than 12 years of experience designing and deploying enterprise security solutions across cloud, hybrid, and on-premise environments. He specializes in the Trend… Lire la suiteRéduire
Fouad Hamdache is a Senior Cybersecurity Solutions Consultant at Trend Micro, with more than 12 years of experience designing and deploying enterprise security solutions across cloud, hybrid, and on-premise environments. He specializes in the Trend Vision One platform and AI security, and works with organizations to modernize their threat detection and response through XDR, Zero Trust, and risk-based architecture. Fouad brings a hands-on, practical approach to security conversations, drawing on real deployments rather than theory. He regularly speaks at industry events across Canada, helping public and private sector teams cut through the noise around AI adoption and turn cyber risk into something they can actually plan for and manage, rather than just react to.
