Have a safe flight! Building security guardrails for Copilot AI assistant

Natalia Semenova, architecte de sécurité chez EPAM et ancienne de Microsoft et Google, s'appuie sur des déploiements réels de Microsoft Copilot pour montrer où placer les garde-fous dans le modèle de responsabilité partagée de Copilot. Puisque Copilot s'exécute via des comptes de service, les journaux d'accès peuvent masquer quel utilisateur a réellement consulté une donnée sensible, sans journalisation explicite des invites et réponses. Elle situe les points de contrôle sur l'architecture : filtrage des entrées, détection des injections de invite, filtrage des sorties et prévention de la perte de données pour intercepter salaires, adresses ou autres données étiquetées avant qu'elles n'atteignent l'utilisateur. L'étiquetage des données est le vrai préalable à la sécurité, car un fichier non étiqueté peut être exposé à n'importe qui, peu importe ses droits d'accès, y compris par les suggestions de partage de Copilot. Elle aborde le consentement et le droit à l'oubli pour les données personnelles intégrées dans un index vectoriel, recommande d'anonymiser et de chiffrer séparément les données pour la génération augmentée, et mentionne les rapports natifs d'Azure et des cadres comme MITRE ATLAS arrimé à NIST comme substituts en l'absence de certifications IA. Une période de questions couvre les DLP personnalisés, le risque multi-infonuagique lié aux identités non humaines, la documentation périmée causant des hallucinations, les garanties sur les données d'entraînement, Copilot Web contre l'entreprise, et le zero trust.