Bienvenue dans la série de blogs du PCI Security Standards Council, The AI Exchange : Innovators in Payment Security. Cette fonctionnalité spéciale et continue de notre blog PCI Perspectives fournit une ressource permettant aux acteurs du secteur de la sécurité des paiements de partager des informations sur la manière dont ils adoptent et mettent en œuvre l'intelligence artificielle (IA) dans leurs organisations.
Dans cette édition de The AI Exchange, Jacob Ansari, partenaire de Block Security Governance, explique comment son entreprise utilise l'IA et comment cette technologie en croissance rapide façonne l'avenir de la sécurité des paiements.
Comment avez-vous récemment intégré l’intelligence artificielle au sein de votre organisation ?
Notre organisation intègre l'IA dans presque tous les aspects de notre travail : ingénierie logicielle, apprentissage automatique, opérations de sécurité et marketing. Personnellement, j'utilise l'IA pour un certain nombre d'efforts de sécurité tiers : les agents IA sont très rapides à consommer les documents fournis par nos tiers et à les analyser. J'utilise également l'IA pour guider certaines évaluations sur site que j'effectue pour des tiers. Par exemple, je n'évalue pas seulement les contrôles de sécurité physique ; J'utilise l'IA pour évaluer leurs politiques de sécurité et leurs rapports d'audit afin de me dire ce que je dois m'attendre à trouver. Ensuite, je peux les évaluer par rapport à ce qu’ils disent faire.
Quel est le changement le plus important que vous ayez constaté dans votre organisation depuis que l’utilisation de l’IA est devenue beaucoup plus répandue ?
Nous utilisons l'apprentissage automatique et d'autres technologies adjacentes à l'IA depuis longtemps. Pour nous, l'adoption de l'IA a donc été une progression naturelle plutôt qu'un tournant brutal. Cela dit, cela a considérablement augmenté certaines de nos politiques importantes, telles que la vitesse des développeurs, et a créé une variété intéressante de risques (par exemple, l'accès de l'IA à certains ensembles de données ou fonctions, l'insertion malveillante de commandes dans des agents IA) et des opportunités pour les fonctionnalités de sécurité (par exemple, l'IA pour analyser rapidement de grands ensembles de données).
Comment pensez-vous que l’IA évoluera ou impactera la sécurité des paiements à l’avenir ?
Je pense que l’IA pourrait évoluer, relativement rapidement, vers une détection des fraudes meilleure et plus localisée. Les processeurs de paiement pourraient utiliser des modèles d’intelligence artificielle pour localiser les transactions frauduleuses et potentiellement même empêcher leur réalisation. Les commerçants pourraient rechercher sur leurs sites de commerce électronique du code potentiellement malveillant appelant un site hostile.
Quels risques potentiels les organisations devraient-elles prendre en compte à mesure que l’IA est de plus en plus intégrée à la sécurité des paiements ?
L’IA est imparfaite et pas entièrement prévisible. Poser cinq fois la même question à un LLM donne cinq réponses différentes. Donc, attendre une cohérence dans ce sens à partir d’une seule requête est susceptible de poser des problèmes. De plus, au final, les agents IA fonctionnent sur des plateformes et communiquent avec d’autres systèmes, et tout cela constitue une surface d’attaque qui répond aux catégories de menaces que nous connaissons : problèmes d’authentification, sécurité des transports, attaques de la chaîne d’approvisionnement, etc.
Quels conseils donneriez-vous à une organisation qui commence tout juste à utiliser l’IA ?
Commencez petit, réfléchissez aux tâches qui pourraient être faciles à accomplir, mesurez l’utilité de vos efforts avec des mesures claires et concrètes. Tirez parti des succès progressivement. Certaines organisations peuvent procéder à de grands changements culturels pour adopter rapidement l’IA, mais ce n’est probablement pas l’option par défaut et vous devez être prudent.
Quelle tendance de l’IA (non limitée aux paiements) vous passionne le plus ?
Professionnellement, je suis enthousiasmé par la possibilité de trouver des aiguilles dans des meules de foin : rechercher des événements pertinents dans une mer de données de journaux, automatiser les opérations de sécurité en analysant les files d'attente de tickets actuellement manuelles et rechercher des modèles courants, consommer de nombreux documents d'entrée et synthétiser rapidement des analyses convaincantes. Ils ont de nombreuses applications utiles.
Personnellement, j'utilise ChatGPT pour optimiser mes routines d'entraînement et ça fait tellement mal que ça semble fonctionner.
