Bienvenue dans la série de blogs du PCI Security Standards Council, The AI Exchange : Innovators in Payment Security. Cette fonctionnalité spéciale et continue de notre blog PCI Perspectives fournit une ressource permettant aux acteurs du secteur de la sécurité des paiements de partager des informations sur la manière dont ils adoptent et mettent en œuvre l'intelligence artificielle (IA) dans leurs organisations.
Dans cette édition de The AI Exchange, James Huang, responsable de la conformité de la sécurité chez Salesforce, explique comment son entreprise utilise l'IA et comment cette technologie en croissance rapide façonne l'avenir de la sécurité des paiements.
Comment avez-vous récemment intégré l’intelligence artificielle au sein de votre organisation ?
À l'ère de l'IA des agents, nous nous concentrons sur la mise en œuvre d'Agentforce, la plateforme de main-d'œuvre numérique de Salesforce, et sur l'inclusion des agents IA intelligents comme élément fondamental de l'expérience client et employé.
Par exemple, nous exploitons Agentforce et l'IA pour optimiser nos propres opérations, en particulier dans les domaines liés à l'examen des politiques et aux obligations de conformité. Les agents d'IA jouent un rôle déterminant dans l'automatisation de l'analyse de vastes documents réglementaires, l'identification des changements pertinents et même la rédaction de mises à jour initiales des politiques pour rester à jour et s'aligner sur la conformité PCI et sur d'autres normes de sécurité.
Cela permet à nos équipes internes d'évaluer rapidement l'impact des nouvelles réglementations, d'accélérer les cycles de révision des politiques et d'identifier de manière proactive les lacunes en matière de conformité, améliorant ainsi notre posture de sécurité et réduisant les efforts manuels associés au maintien d'un alignement réglementaire strict. De plus, cela nous permet également de recevoir des commentaires et une analyse en temps réel de l’efficacité de notre contrôle, ce qui nous permet d’évaluer les risques avec plus de précision et de réagir rapidement. Il s'agit de rendre nos opérations internes plus efficaces tout en rendant nos environnements plus sûrs.
Quel est le changement le plus important que vous ayez constaté dans votre organisation depuis que l’utilisation de l’IA est devenue beaucoup plus répandue ?
Le changement le plus marquant auquel nous assistons est l’essor du travail numérique. Les agents d’IA évoluent du statut d’outils à celui de collaborateurs stratégiques, modifiant fondamentalement la façon dont le travail est effectué. Les agents IA peuvent désormais effectuer des tâches manuelles et routinières, permettant à nos équipes de rediriger leur attention vers un travail à plus forte valeur ajoutée qui nécessite de la créativité, une pensée critique et un jugement humain.
Il ne s’agit pas de remplacer les gens par l’IA ; il s'agit d'augmenter les capacités humaines et de libérer les gens pour qu'ils puissent effectuer un travail à fort impact et à haut risque.
Comment pensez-vous que l’IA évoluera ou impactera la sécurité des paiements à l’avenir ?
Les agents IA sont sur le point de redéfinir la sécurité des paiements en améliorant considérablement notre capacité à détecter et à répondre aux fraudes et aux incidents. Chez Salesforce, nous considérons les agents IA avec Agentforce comme un élément essentiel du renforcement de notre posture de sécurité globale. Nous utilisons des agents d'IA pour effectuer des examens d'architecture et de sécurité en temps réel, permettre des tests de contrôle continus et identifier les domaines de défaillances potentielles de contrôle avant qu'ils ne deviennent des risques.
Les agents d'IA surveillent de manière proactive l'activité du système, analysent les journaux de sécurité et peuvent même simuler des scénarios d'attaque pour révéler des vulnérabilités cachées. Cela nous permet d'être proactifs et de fournir une assurance de sécurité continue, garantissant que nous gardons une longueur d'avance sur les menaces et maintenons les normes les plus élevées d'intégrité et de conformité des données, en particulier pour les cadres critiques comme PCI.
Quels risques potentiels les organisations devraient-elles prendre en compte à mesure que l’IA est de plus en plus intégrée à la sécurité des paiements ?
Alors que l’IA est de plus en plus intégrée à la sécurité des paiements, les organisations doivent faire évoluer de manière proactive leurs stratégies de sécurité pour exploiter pleinement ses capacités et leur faire confiance. La priorité doit être de construire l’infrastructure fondamentale qui permet son déploiement sûr, responsable et efficace.
Un élément essentiel de cette fondation est la création d’une couche de données fiable et de haute qualité, garantissant que les données alimentant les systèmes d’IA sont exactes, gouvernées et complètes. Les données fiables soulignent la fiabilité de l’IA : les données fiables sont particulièrement essentielles lors du traitement d’informations financières ou de paiement sensibles. Une gouvernance, une classification et un suivi du lignage robustes des données sont essentiels au maintien de l’intégrité des décisions basées sur l’IA.
Dans le même temps, les organisations doivent protéger les données sous-jacentes, déterminer soigneusement l’accès des agents intelligents et surveiller en permanence leur activité. Ceci, combiné à une culture de renforcement des plateformes, d’évaluations en temps réel et de surveillance continue de la sécurité, permet aux organisations d’exploiter tout le potentiel de l’IA sans compromettre la confiance, la conformité ou la résilience.
Quels conseils donneriez-vous à une organisation qui commence tout juste à utiliser l’IA ?
Pour toute organisation qui se lance dans l’aventure de l’IA et de l’agent, voici mon conseil simple :
- Plongez et expérimentez
N'hésitez pas à vous mettre au travail avec des agents IA. Commencez par maîtriser les principes fondamentaux : comprendre comment des indices précis influencent les résultats de grands modèles de langage. Plus votre contribution est précise et riche en contexte, meilleurs seront les résultats. - Identifier les cas d'utilisation à fort impact
Identifiez où les agents d’IA peuvent créer une réelle valeur. L'IA excelle dans la génération de contenu, la traduction, la synthèse et des tâches similaires. Concentrez-vous sur des points sensibles spécifiques au sein des ventes, du service ou du marketing pour maximiser l'impact. - Préparez vos données pour réussir
L’efficacité des agents IA dépend de la qualité des données qu’ils consomment. Créez une vue unifiée du client en connectant et en harmonisant les sources de données pour établir une « source unique de vérité ». Cette fondation garantit que les modèles d’IA fournissent des informations pertinentes et exploitables. - Gérer les risques de manière proactive
Restez attentif aux risques, notamment liés à la confidentialité et à la sécurité des données. Mettez en œuvre des mesures de protection telles que le masquage des données pour les informations personnellement identifiables (PII), surveillez les résultats des agents d'IA pour déceler les biais ou les inexactitudes et maintenez une surveillance humaine à tout moment. - Intégrez l’IA et itérez en continu
Générez une valeur commerciale mesurable en intégrant des informations sur l’IA dans les flux de travail existants. Évaluez en permanence les résultats, affinez les modèles et développez des stratégies pour optimiser les performances au fil du temps.
Quelle tendance de l’IA (non limitée aux paiements) vous passionne le plus ?
L’essor de l’IA des agents et son potentiel à offrir des expériences client personnalisées à grande échelle tout en renforçant la sécurité et la conformité. Les agents IA qui non seulement comprennent les besoins des clients, mais prennent également des mesures proactives (allant de la génération de contenu personnalisé à l'automatisation des demandes de service complexes) sont véritablement révolutionnaires.
Chez Salesforce, Agentforce permet à ces agents numériques de surveiller et d'évaluer en permanence notre posture de sécurité. Ils traitent d’importants volumes de données en temps réel pour détecter des anomalies, découvrir des vulnérabilités et même simuler des scénarios d’attaque. Cette approche proactive et évolutive nous permet d’identifier les menaces et d’y répondre plus rapidement que jamais. De plus, Agent AI accélère la capacité de Salesforce à s'adapter à l'évolution des environnements réglementaires en automatisant les examens des politiques, les contrôles de conformité et en garantissant le strict respect des normes telles que PCI.
En fin de compte, il s'agit de créer des interactions transparentes et personnalisées tout en maintenant un environnement robuste, sécurisé et compatible sur tous les systèmes.
Vous souhaitez en savoir plus ? Inscrivez-vous maintenant voir James Huang prendre la parole lors de la réunion publique nord-américaine de 2025, où il prononcera sa présentation sur le thème de l'IA, tL’avenir de la gouvernance : tirer parti de l’automatisation pour améliorer la sécurité.
