L'essor de l'IA agentique - des systèmes capables de prendre des décisions et d'exécuter des tâches de manière autonome - marque un tournant dans l'évolution de la gestion des risques et de la sécurité. Plus récemment, la démonstration de Claude October 2024 d' Anthropic , dans laquelle l'IA agentique « prend le contrôle » d'une machine virtuelle, a démontré les éléments suivants, à partir d'une seule invite : trouver le meilleur endroit pour admirer le coucher de soleil sur le Golden Gate Bridge, tracer l'itinéraire et programmer l'heure. La série de démonstrations d'Anthropic a montré comment l'IA agentique peut effectuer des tâches de manière autonome, et une multitude de nouveaux cas d'utilisation ont commencé à proliférer. En l'espace de quelques jours, un chercheur de Wharton a montré comment l'IA agentique pouvait examiner une vidéo d'un chantier de construction pour y déceler d'éventuels problèmes de sécurité, en finalisant par une liste de mesures à prendre classées par ordre de priorité.
Alors que la plupart des organisations de sécurité et de gestion des risques commencent à peine à explorer ce potentiel, les progrès rapides de la technologie annoncent un avenir proche dans lequel les systèmes d'IA joueront un rôle central dans la détection, l'adaptation et l'atténuation des menaces. Cette évolution pourrait redéfinir la sécurité physique, la gestion de crise et la gestion des risques liés aux voyages, en offrant des niveaux sans précédent de personnalisation, de précision, de recommandations et d'efficacité.
Qu'est-ce que l'IA agentique ?
L'IA agentique représente une nouvelle frontière dans l'intelligence artificielle, combinant la puissance analytique de l'IA traditionnelle avec l'autonomie de prendre des décisions et d'exécuter des tâches de manière indépendante. Contrairement aux modèles antérieurs dépendant des humains, l'IA agentique s'adapte aux conditions changeantes, apprend des interactions et prend des mesures proactives pour atteindre ses objectifs. Bien qu'elle soit actuellement guidée par une surveillance humaine dans des applications critiques, la capacité de l'IA agentique à synthétiser des données, à prédire des résultats et à coordonner des actions dans différents domaines la distingue en tant qu'outil de transformation pour des environnements dynamiques et complexes.
Applications actuelles et à court terme de l'IA agentique dans le domaine de la sécurité et de la gestion des risques
1. Sécurité physique : Détection et atténuation proactives des menaces
L'IA agentique transformera la sécurité physique en passant d'une surveillance passive à une gestion active des menaces. Ces systèmes intégreront des données provenant de capteurs environnementaux, de tendances historiques et de flux vidéo en direct afin d'anticiper et de neutraliser les risques.
Exemples de cas d'utilisation
- Détection des anomalies comportementales :
Détecte des schémas inhabituels sans règles prédéfinies.
Exemple : Lors d'un grand événement sportif, l'IA identifie une personne qui rôde près des zones interdites et déclenche le déploiement du personnel de sécurité.
- Déploiement autonome de ressources :
Les agents de l'IA verrouillent les portes, activent les alarmes ou redirigent le personnel en fonction de l'évolution des menaces.
Exemple : Lors d'une fusillade dans un hôpital, l'IA sécurise les entrées des salles d'urgence et dirige le personnel vers la sécurité, de concert avec les systèmes de sonorisation, les systèmes SIRH et les technologies de notification de masse.
- Dispatching dynamique :
Les agents déploient de manière autonome des drones ou des robots pour enquêter en temps réel sur les dangers.
Exemple : L'IA d'un établissement envoie un drone pour enquêter sur un colis suspect, minimisant ainsi le risque humain.
Il est important de préciser que les humains resteront « dans la boucle » pendant un certain temps, étant donné la nature critique des tâches décrites ici, ainsi que les risques permanents liés aux défis précédemment évoqués dans les grands modèles de langage (c'est-à-dire les hallucinations, l'excès de confiance, etc.). Cependant, comme on le dit souvent, « cette technologie est la pire qu'elle ne sera jamais ». L'IA agentique continuera à s'améliorer rapidement et la fréquence des hallucinations et de l'excès de confiance devrait diminuer avec le temps.
2. Gestion des crises : Une coordination et une aide à la décision plus intelligentes
Pendant les crises, l'IA agentique accélérera les temps de réponse en synthétisant les données, en générant des scénarios et des recommandations, et en automatisant la communication.
- Modélisation dynamique de scénarios :
Adapte les plans de réponse aux crises en fonction de l'évolution des données.
Exemple : Lors d'un incendie de forêt à proximité d'une usine de fabrication, l'IA prédit les changements de vent et conçoit un itinéraire d'évacuation en temps réel.
- Communication intégrée :
Adapte les messages de crise aux différentes parties prenantes afin d'en assurer la clarté.
Exemple : Lors d'une panne d'électricité, le système d'IA envoie des alertes personnalisées aux directeurs de magasins, au personnel et aux clients (chacun ayant un intérêt différent dans la panne ; chacun ayant un message personnalisé) afin de coordonner efficacement les fermetures.
Arbres de décision autonomes :
Ils créent et exécutent des plans en plusieurs étapes sans intervention humaine.
Exemple : Un agent IA d'une université identifie les dortoirs à évacuer lors d'une fuite de gaz, en donnant la priorité à ceux qui sont les plus proches de la source.
3. Gestion des risques liés aux voyages : Sécurité personnalisée et optimisation des itinéraires
À l'avenir, l'IA agentique redéfinira la sécurité des voyages en jouant le rôle de conseiller proactif en matière de risques et d'atténuateur de crise pour les voyageurs.
- Analyse personnalisée des risques :
Elle évalue les plans de voyage individuels en fonction de facteurs de risque dynamiques tels que les manifestations locales ou les catastrophes naturelles.
Exemple : Un agent IA avertit un cadre d'une zone à haut risque et lui recommande d'autres possibilités d'hébergement. L'agent « comprend » le profil du cadre, ce qui lui tient à cœur, son pays d'origine, son profil de risque et les besoins de l'entreprise - et adapte ses recommandations en fonction de ces caractéristiques.
- Ajustements autonomes de l'itinéraire :
Il réorganise les vols de manière proactive ou organise d'autres moyens de transport en cas de perturbations.
Exemple : Lors d'une grève des chemins de fer, en coordination avec la TMC de l'entreprise, l'IA réorganise les hôtels et les voitures pour les employés, afin de minimiser les perturbations.
- Suivi et réponse aux voyageurs :
L'IA suit en permanence la localisation des employés et émet des mises à jour sur la sécurité.
Exemple : Une IA d'entreprise suit les employés dans les zones de conflit et émet des ordres d'évacuation immédiats en cas d'éruption de violence.
Remarque : comme décrit ci-dessus, les humains (dans ce cas, le TMC) resteront « dans la boucle » en raison des mêmes risques décrits ci-dessus : hallucinations, etc. Les cas d'utilisation ci-dessus permettront aux agents TMC d'opérer avec une plus grande efficacité et à plus grande échelle.
Qu'est-ce qui distingue l'IA agentique ?
L'IA agentique se distingue en combinant des capacités avancées d'apprentissage, d'automatisation et d'intégration pour relever des défis complexes.
- Auto-apprentissage et adaptabilité : Contrairement aux systèmes traditionnels, l'IA agentique affine sa compréhension des menaces et des réponses au fil du temps, en s'améliorant à chaque itération. Par exemple, un système d'IA pourrait apprendre à mieux prévoir les besoins d'évacuation après avoir analysé les résultats d'une crise.
- Automatisation des tâches à grande échelle : En gérant de manière autonome des tâches routinières mais critiques - comme la surveillance, l'alerte et l'allocation des ressources - l'IA agentique réduit l'erreur humaine et garantit un fonctionnement continu et fiable.
- Intégration transparente entre les domaines : Ces systèmes relient divers outils et équipes, rationalisant la communication et la prise de décision dans les domaines de la sécurité, des opérations et de la gestion de crise pour une action cohérente.
- Raffinement grâce à une personnalisation poussée. Dans chacun des cas d'utilisation ci-dessus, il s'agit de comprendre « Quel serait le bon ensemble de réponses pour mon organisation (spécifique) ? »
Cette combinaison permet aux organisations de s'attaquer aux risques de manière plus efficace, faisant de l'IA agentique un atout transformateur.
Le rôle du leader innovant en matière de sécurité
Nous entendons souvent ce sentiment lors des séances de questions-réponses après avoir parlé de l'IA : « La technologie évolue rapidement... et l'IA agentique pourrait être un changement radical... et alors, qu'en est-il pour nous ? » L'essor de l'IA agentique offre aux responsables de la sécurité une chance sans précédent d'accroître leur impact personnel et professionnel. En explorant d'abord - et en défendant ensuite - cette technologie, les responsables de la sécurité peuvent s'imposer comme des pionniers avant-gardistes, renforçant ainsi leur crédibilité et leur influence au sein de leur organisation et dans l'ensemble de l'industrie. D'un point de vue pratique, nous constatons généralement que certaines des meilleures explorations proviennent du « bas de l'organigramme », où les membres subalternes des équipes de sécurité explorent de nouveaux cas d'utilisation pour soutenir leurs tâches quotidiennes. Néanmoins, nous encourageons la mise en place de garde-fous solides pour prévenir les dommages - encore une fois, les hallucinations, l'excès de confiance, et en particulier dans les systèmes visant à garantir la sécurité de l'information.
Plus généralement, les dirigeants qui intègrent habilement l'IA agentique dans les opérations ne se contenteront pas d'apporter des améliorations mesurables en termes de résilience et d'efficacité, mais démontreront également comment de petites équipes agiles dotées d'IA peuvent atteindre des niveaux de sécurité que l'on pensait auparavant ne pouvoir atteindre qu'avec des ressources plus importantes. En fin de compte, il s'agit d'obtenir des résultats commerciaux. Cette capacité à amplifier les résultats positionne les leaders innovants comme des architectes indispensables de l'avenir de la sécurité - et de leurs organisations.
Le chemin à parcourir
L'IA agentique offre un aperçu d'un avenir dans lequel les organisations peuvent mieux anticiper et répondre à l'évolution des risques. Bien que son adoption n'en soit qu'à ses débuts, son potentiel de transformation est énorme, en particulier dans des domaines tels que la sécurité physique, la gestion de crise et la gestion des risques liés aux voyages. Les organisations qui commencent à explorer ces technologies aujourd'hui se positionneront pour répondre plus efficacement à un monde imprévisible. Cette période d'évolution rapide offre une occasion unique d'améliorer la résilience et la préparation aux défis à venir.
Chez Crisis24, nous restons à la pointe de l'évolution de l'IA agentique, en aidant les organisations à libérer tout son potentiel. Laissez-nous vous guider dans l'intégration de ces systèmes révolutionnaires dans vos cadres de sécurité et de gestion des risques.
Auteur(e)(s)
Chris Hurst
Vice President, Global Risk and Intelligence Services, OnSolve by Crisis24
Chris Hurst is Vice President, Global Risk and Intelligence Services for OnSolve by Crisis24, where he is responsible for ensuring OnSolve by Crisis24's technology and services portfolio continues to...
En savoir plus
Nick Hill
Senior Risk Analyst, Global Risk and Intelligence Services, Onsolve by Crisis24
Nick Hill is Senior Risk Analyst, Global Risk and Intelligence Services, where he drives intelligence analysis and services implementation to help customers mitigate dynamic risks and strengthen...
En savoir plus