34:56Cet enregistrement n'est pas encore disponible.
From Advisor to Agent: Inside the Accelerating Arc of Adversary AI
Télécharger les ressourcesCatégories
Intelligence artificielle (IA) et technologies émergentesSécurité de l'intelligence artificielle (IA / AI)Sécurité applicativeSécurité infonuagiqueIntelligence artificielle générative (GenAI)
Fournisseurs et outils abordés
Commandité par
À propos de cette session
Une intervenante qui se présente comme responsable du renseignement sur les menaces chez Google, citant des interventions de Mandiant et des recherches du Google Threat Intelligence Group, explique que les attaquants délaissent l'IA simple conseillère pour en faire un agent autonome déployé tout au long du cycle d'attaque. L'exposé couvre trois fronts. Dans la chaîne d'approvisionnement logicielle, le code généré par IA a fait exploser le volume de dépendances open source non révisées; un groupe nommé TeamPCP compromet des mainteneurs, se propage par vol d'identifiants sur des dizaines de paquets en quelques heures, et cache son maliciel dans des tâches CI/CD liées à l'IA, dont un faux passage sur la fabrication d'une arme biologique conçu pour faire échouer l'analyse d'un modèle de langage. Des jetons GitHub et des accès infonuagiques volés servent à provisionner des GPU pour des grands modèles de langage aux frais de la victime, en plus d'un marché clandestin de comptes IA volés. Des acteurs d'espionnage étatiques et des cybercriminels volent aussi des modèles et des recherches propriétaires pour faire chanter leurs victimes. L'exposé se termine sur des pistes de défense : limiter les privilèges des agents, croiser plusieurs modèles et surveiller les pics de calcul.
Adversarial use of AI has transitioned from using models as mere 'advisors' for basic
productivity gains to more complex operations driven by automation and autonomous agents.
Grounded in Mandiant frontline incident response engagements and Google Threat
Intelligence Group (GTIG) research, this talk examines how threat actors are leveraging AI to
increase the speed, scale, and sophistication of their attacks.
Attendees will gain insights into key threat landscape developments:
● The Rise of Agentic Workflows: How adversaries are deploying autonomous
frameworks to orchestrate vulnerability scanning, exploitation, and mass credential
harvesting with minimal human intervention.
● Targeting the AI Supply Chain: How actors like TeamPCP compromise open-source
ecosystems enabling the mass theft of credentials and keys for AI tools, alongside a
look at rising underground market demand for stolen AI accounts and API keys.
● Enterprise Infrastructure Hijacking (LLMjacking): The trend of compromising cloud
environments to deploy LLM infrastructure and steal enterprise compute resources.
● The Hunt for Proprietary AI: How state-sponsored actors and extortion groups are
increasingly targeting organizations to steal proprietary models, data, and research.
To stay ahead of these maturing capabilities, this session equips attendees with the frontline
intelligence needed to anticipate, detect, and disrupt these threats
À retenir
- Ajouter une analyse automatisée avant déploiement pour détecter secrets exposés, jetons et paquets malveillants; les assistants de codage par IA font entrer des dépendances open source non révisées à un volume qu'aucune révision manuelle ne peut suivre.
- Ne pas se fier à un seul modèle de langage pour trier du code suspect : combiner modèles spécialisés en sécurité, modèles de raisonnement et contrôles statiques, car le refus d'un seul analyseur devant un faux passage sur une arme peut laisser passer le maliciel caché derrière.
- Traiter les jetons GitHub, les accès infonuagiques et les clés API d'IA comme des cibles de grande valeur; des accès volés servent déjà à provisionner des GPU et faire tourner des modèles de langage aux frais de la victime, générant de grosses factures en quelques heures.
- Surveiller les pics anormaux de calcul infonuagique comme signal de détection d'un détournement d'infrastructure IA, pas seulement d'une erreur humaine ou d'une mauvaise configuration.
- Protéger les modèles propriétaires, les invites et les recherches comme le code source et les données clients; des acteurs d'espionnage étatiques et des cybercriminels motivés par l'appât du gain ciblent ces actifs pour les voler et faire chanter leurs victimes.
Conférenciers
Kimberly Goody
Kimberly Goody is a Senior Manager with Google Threat Intelligence Group where she has led various teams focused on intelligence analysis and production. She brings over a decade of experience primarily focused on research into complex cybercrime… Lire la suiteRéduire
Kimberly Goody is a Senior Manager with Google Threat Intelligence Group where she has led various teams focused on intelligence analysis and production. She brings over a decade of experience primarily focused on research into complex cybercrime operations dating back to her time at NCFTA where she worked as a liaison between law enforcement and some of the world's largest financial institutions. She holds a master’s degree in security and intelligence studies and has also taught a graduate level course on cyber crime at Georgetown University.
