Intelligence artificielle générative et agentive : répercussions sur la technologie, la cybersécurité et la résilience opérationnelle

Date : Juillet 2026

Introduction

L'intelligence artificielle générative (IA générativeNote de bas de page 1) permet de créer du contenu, tandis que l'IA agentiveNote de bas de page 2 introduit un processus de raisonnement et d'exécution autonome. Bien que ces technologies améliorent la productivité, elles amplifient également la vitesse, l'ampleur et l'automatisation des risques cybernétiques et opérationnels, ce qui métamorphose la structure du paysage des risques et chamboule les cadres existants de gestion du risque.

Plus tôt cette année, nous avons travaillé à faire connaître les risques associés aux modèles d'IA de pointeNote de bas de page 3. Ce bulletin tire parti de ces travaux et décrit de saines pratiques pour aider les institutions à gérer les risques associés à l'utilisation de l'IA générative et agentive. Ces pratiques cadrent avec nos lignes directrices B-13, Gestion du risque lié aux technologies et du cyberrisque, E-21, Gestion du risque opérationnel et résilience opérationnelle, et B-10, Gestion du risque lié aux tiers.

Renforcer la gouvernance et la responsabilisation stratégique

L'adoption de l'IA peut avancer plus rapidement que l'évolution des cadres de gouvernance. Les systèmes d'IA peuvent fonctionner avec une supervision humaine limitée et misent de plus en plus sur des modèles, des plugiciels, des données et des interfaces de programmation d'applications (interfaces API) de tiers. Parallèlement, lorsque la haute direction ne comprend pas pleinement le domaine, il peut en découler une dépendance excessive aux évaluations fournies par les fournisseurs, ce qui freine l'examen efficace du comportement de l'IA.

Les institutions peuvent évaluer si leur cadre de gouvernance permet de gérer adéquatement les risques liés à l'adoption rapide de l'IA, à la prise de décision autonome et aux dépendances vis-à-vis des tiers. Conformément aux principes 1 à 3 énoncés dans la ligne directrice B-13, les institutions peuvent envisager les mesures de contrôle et d'atténuation du risque suivantes :

  • renforcer les connaissances de la haute direction;
  • faire cadrer la stratégie en matière d'IA avec la propension à prendre des risques, en prévoyant des déclencheurs de signalement aux échelons supérieurs clairs pour permettre une intervention et une réponse aux risques en temps opportun;
  • intégrer les risques liés à l'IA au cadre de gestion du risque d'entreprise (notamment ceux en lien avec la cybersécurité, les technologies, les modèles et les tiers) pour garantir le recensement, le regroupement et l'atténuation des risques interreliés;
  • assurer une supervision rigoureuse des dépendances aux tiers liées à l'IA;
  • définir clairement les responsabilités à chaque étape du cycle de vie de l'IA et établir des limites concernant son autonomie;
  • mettre en œuvre une plateforme d'exploitation et d'encadrement de l'IANote de bas de page 4 (AI harnessing en anglais) de pair avec une supervision humaine pour préserver la responsabilisation et prévenir les actions non intentionnelles.

De plus, les institutions peuvent consulter notre ligne directrice Gouvernance d'entreprise pour en apprendre davantage sur les attentes en la matière, y compris sur le rôle du conseil d'administration et de la haute direction dans la promotion d'une culture de risque centrée sur l'intégrité et la gestion efficace du risque.

Garantir l'intégrité de l'information et de la prise de décisions

L'IA générative traite de grands volumes de données de nature délicate et de renseignements exclusifs qu'elle tire des requêtes, de sources Internet et d'autres ensembles de données utilisées aux fins de son entraînement. Toutefois, elle peut produire des hallucinations et donc générer des résultats inexacts ou trompeurs, surtout lorsque les données sous-jacentes sont ambiguës, incohérentes ou incomplètes. L'IA agentive peut amplifier les risques liés à l'IA générative en agissant sur ces résultats, ce qui peut déclencher des actions en aval non validées et entraîner des fuites de données, ainsi que d'autres répercussions financières et non financières.

Parmi les autres risques clés, mentionnons notamment la fuite de données par l'intermédiaire des requêtes, des extrants, des journaux, des fournisseurs tiers ou des utilisateurs de l'IA, ainsi qu'une explicabilité et une auditabilité limitées des extrants générés par l'IA.

Les institutions peuvent évaluer l'efficacité de leurs mécanismes de contrôle tout au long du cycle de vie de l'IANote de bas de page 5, y compris les intrants, les requêtes, les sources de données, les extrants et les décisions en aval. Elles peuvent également envisager d'adopter les mesures de contrôle et d'atténuation du risque suivantes conformément aux principes 3, 4, 5, 14 et 15 énoncés dans la ligne directrice B-13 :

  • appliquer des mécanismes de contrôle en matière de classification et de provenance des donnéesNote de bas de page 6 afin de garantir la traçabilité et l'intégrité des données;
  • dans les systèmes d'IA, n'utiliser que des intrants provenant de sources de données de confiance et approuvées;
  • interdire l'utilisation de données de nature délicate dans les outils d'IA publics ou non approuvés;
  • traiter les extrants générés par l'IA comme des facteurs à prendre en compte dans la prise de décision plutôt que comme des résultats définitifs;
  • assurer une supervision humaine et une reddition de compte pour les décisions importantes ou lourdes de conséquences et exiger une documentation claire et vérifiable qui démontre l'influence des extrants générés par l'IA sur l'analyse et les résultats finaux;
  • surveiller les requêtes et les extrants pour pouvoir détecter rapidement les anomalies et les violations de politique.

De plus, étant donné que les modèles d'IA utilisent diverses sources de données et des techniques complexes qui peuvent accentuer plusieurs aspects du risque de modélisation, les institutions peuvent consulter notre ligne directrice E-23, Gestion du risque de modélisation, pour en apprendre davantage sur les attentes à l'égard de la gestion de ce risque à l'échelle de l'institution.

Développement contrôlé de logiciels et changements

L'IA générative peut accélérer le développement de logiciels. Cependant, elle peut produire involontairement du code non sécurisé en s'appuyant sur des schémas erronés ou dangereux présents dans les données d'entraînement. L'IA agentive peut augmenter ce risque en déployant en toute autonomie du code bancal dans des environnements de production.

De plus, le comportement des systèmes d'IA peut évoluer de manière imprévue à la suite de mises à jour apportées aux requêtes, aux modèles, aux sources de données, aux outils ou aux services de tiers sous-jacents.

Les institutions peuvent s'assurer que leurs mécanismes de contrôle visant le développement logiciel et la gestion du changement sont à la hauteur des risques liés à l'adoption de l'IA. Conformément aux principes 6 à 9 énoncés dans la ligne directrice B-13, les institutions peuvent envisager les mesures de contrôle et d'atténuation du risque suivantes :

  • utiliser des sources de données fiables pour entraîner les modèles d'IA;
  • valider le code généré par l'IA pour détecter les vulnérabilités et les infractions à la programmation sécurisée avant le déploiement en production;
  • mettre en œuvre une plateforme d'exploitation et d'encadrement de l'IA et surveiller les actions prises par les agents d'IA;
  • imposer des points d'approbation pour les mesures à haut risque afin de prévenir des répercussions imprévues;
  • traiter les composants de l'IA (y compris les modèles, les données, les outils et les agents) comme des actifs technologiques contrôlés;
  • intégrer des contrôles de sécurité à tous les stades du cycle de vie de l'IA;
  • appliquer aux composants d'IA les mêmes mécanismes de développement sécurisé et de contrôle de la gestion du changement utilisés à l'échelle de l'entreprise afin d'améliorer la traçabilité des changements et de prévenir les comportements indésirables des systèmes d'IA;
  • mener des tests rigoureux des modèles d'IA et des charges de travail connexes pour garantir leur fiabilité dans des conditions normales et en période de tensions, y compris dans des cas limites propres à l'IANote de bas de page 7.

Contrôler l'autonomie et l'accès des agents d'IA

Les systèmes et les agents d'IA doivent avoir accès aux données, aux outils et aux systèmes. Des autorisations d'accès excessives augmentent le risque d'action non autorisée, y compris le risque d'attaques en plusieurs étapes comme l'exfiltration de données moyennant des outils ou des interfaces API.

Les institutions peuvent évaluer si les mécanismes de contrôle visant la gestion de l'identité et de l'accès demeurent efficaces pour les systèmes et agents d'IA. Les principaux risques incluent l'octroi d'accès privilégiés injustifiés et l'utilisation de justificatifs d'identité partagés ou hérités qui viennent entraver la reddition de compte. Il existe d'autres risques, notamment ceux qui découlent du chaînage d'outils (tool chaining en anglais) Note de bas de page 8, de la faible traçabilité des activités initiées par l'IA et de l'exécution automatisée. Ces risques augmentent la probabilité d'extrants non contrôlés.

Conformément aux principes 5, 8 et 14 à 16 énoncés dans la directive B-13, les institutions peuvent envisager les mesures de contrôle et d'atténuation du risque suivantes :

  • attribuer des identités non humaines uniques, appliquer le principe du droit d'accès minimal, mettre en œuvre des autorisations ciblées et utiliser un accès juste à temps avec des justificatifs d'identité à courte durée de vie pour réduire l'accès non autorisé et limiter la compromission des agents;
  • restreindre l'utilisation des outils au moyen de listes d'autorisations, de passerelles d'interfaces API et de mécanismes d'approbation pour les mesures à incidence élevée, afin de prévenir l'utilisation abusive de fonctions à haut risque et d'activités de nature délicate;
  • consigner et examiner l'activité des agents et l'utilisation des outils et exiger une recertification périodique des accès pour améliorer la détection des anomalies et maintenir l'intégrité continue des accès.

Intégrer l'IA aux activités de cybersécurité

L'IA élargit le paysage de cybermenaces et augmente l'ampleur, la vitesse et le degré de complexité des attaques. Parmi les principales menaces, mentionnons l'hameçonnage automatisé, la génération de requêtes malveillantes et l'injection de codes malveillants ou de codes d'exploitation générés par l'IA.

Les institutions peuvent utiliser l'IA pour renforcer leurs activités en matière de cybersécurité. En comparaison avec les méthodes classiques, l'IA peut aider à détecter, à prévenir et à gérer les menaces plus rapidement et plus efficacement.

Conformément aux principes 14 à 17 énoncés dans la ligne directrice B-13, les institutions peuvent envisager les mesures de contrôle et d'atténuation du risque suivantes :

  • incorporer des scénarios d'utilisation abusive de l'IA (comme l'injection de requêtes) dans la modélisation des menaces et des tests contradictoires (p. exemple, le « red-teaming »), ce qui permet d'améliorer l'état de préparation et de réduire le potentiel d'exploitation des systèmes d'IA;
  • utiliser l'IA, y compris des modèles de pointe avancés, pour classer les risques par ordre de priorité et accélérer le déploiement de correctifs, ce qui réduit le temps d'exposition aux vulnérabilités graves;
  • améliorer la détection des anomalies comportementales de l'IA, la surveillance des requêtes, le filtrage des extrants et le contrôle adaptatif des accès afin de pouvoir détecter en temps réel les activités malveillantes et les maîtriser;
  • intégrer la télémétrie par IA aux activités de sécurité et aux outils de surveillance existants afin d'améliorer la visibilité des interactions de l'IA et permettre la prise automatisée de mesures plus rapidement comme de bloquer l'accès ou d'isoler les systèmes;
  • élaborer et tester des scénarios de gestion des incidents axés sur l'IA pour améliorer l'efficacité des interventions à la suite d'incidents liés à l'IA.

Accroître la résilience et gérer le risque lié aux tiers

L'IA peut constituer un risque important pour la résilience opérationnelle lorsque des défaillances dans les systèmes basés sur l'IA perturbent les activités essentielles ou engendrent des répercussions corrélatives entre diverses institutions. La dépendance des systèmes d'IA aux offres des fournisseurs (par exemple, les modèles, données et interfaces API de tiers) augmente le risque de concentration et le risque global lié aux tiers. De plus, des tiers peuvent également utiliser l'IA pour fournir des services, ce qui augmente la dépendance d'une institution à l'IA.

Les institutions peuvent envisager les mesures de contrôle et d'atténuation du risque suivantes. Ces mesures cadrent avec les principes 11 à 13 énoncés dans les lignes directrices E-21 et B-13, et avec les résultats à atteindre 2 à 4 énoncés dans la ligne directrice B-10. Plus précisément, les institutions peuvent faire ce qui suit :

  • établir des liens entre, d'un côté, les responsabilités et les dépendances (internes et externes) en matière d'IA, de l'autre, les activités essentielles afin de pouvoir mieux comprendre l'exposition au risque de concentration et aux dépendances;
  • mener des simulations avec des scénarios de défaillance et de panne de l'IA et établir des solutions de rechange manuelles ainsi que des mesures de continuité en ce qui a trait aux processus opérationnels assistés par l'IA pour réduire les perturbations opérationnelles;
  • évaluer la transférabilité et la substituabilité des services d'IA et signaler les risques de concentration importants à la haute direction et au conseil d'administration pour permettre la prise de décisions éclairées;
  • améliorer les programmes de gestion du risque lié aux tiers pour y inclure une gouvernance et une gestion efficaces du risque découlant de l'utilisation de l'IA;
  • obliger les tiers à indiquer s'ils utilisent l'IA dans le cadre de la prestation de leurs services et à préciser les diverses utilisations.

Lorsque le recours à l'IA augmente la probabilité et la gravité potentielle d'une perturbation, les institutions peuvent tenir compte du risque accru dans les scénarios de tests de la continuité des activités et de la reprise après sinistre, y compris ceux visant les plans d'urgence des tiers.

Conclusion

Les avancées en matière d'IA représentent une évolution substantielle dans le domaine de la technologie et du cyberrisque. Ces technologies élargissent la surface d'attaque, accélèrent le risque et remettent en question l'efficacité des mécanismes de contrôle existants.

Les saines pratiques décrites dans ce bulletin complètent les attentes existantes énoncées dans les lignes directrices B-13, B-10 et E-21. En renforçant la gouvernance, en gérant l'autonomie, en améliorant la surveillance et en accroissant leur résilience, les institutions arriveront à mieux gérer les risques associés à l'IA.

Liens utiles

Signaler un problème ou une erreur sur cette page
Veuillez sélectionner toutes les cases qui s'appliquent :
Date de modification :