L’introduction de nouvelles technologies dans les industries majeures ces dernières années a profondément marqué les esprits, notamment en ce qui concerne les solutions d’IA générative. Alors que le grand public discute souvent des effets plus larges sur la société, tels que la propagation de la désinformation en ligne et l’impact de l’IA sur la disponibilité des emplois, les dirigeants mondiaux et les chercheurs s’inquiètent davantage des menaces plus immédiates.
Les responsables du renseignement américain ont tiré la sonnette d’alarme sur le fait que les récents progrès rapides de l’IA pourraient dépasser la réglementation gouvernementale. En même temps, des études soutenues par Microsoft révèlent que 87% des organisations britanniques sont exposées aux cyber-attaques alimentées par l’IA. Cette situation a conduit à un changement du paysage des menaces. Mais quels sont les usages malveillants spécifiques de l’IA généralisée qui préoccupent les experts ?
Les menaces posées par l’IA Gen
Alors que le grand public voit souvent l’IA générative comme un outil passionnant pour créer du contenu et rationaliser les flux de travail, la réalité pour de nombreuses organisations est légèrement plus préoccupante. Avec la capacité de créer des fabrications convaincantes et de traiter de grandes quantités de données de manière autonome, les acteurs malveillants peuvent (et dans de nombreux cas l’ont déjà fait) infiltrer des systèmes auparavant impénétrables.
Aux mains des acteurs malveillants, les modèles d’IA générale ont la capacité de scanner et d’analyser l’ensemble des systèmes informatiques d’une organisation, identifiant et exploitant les vecteurs d’attaque et les vulnérabilités les plus répandus. La principale préoccupation est la vitesse et la précision avec laquelle de nombreux algorithmes modernes peuvent effectuer de telles fonctions, ouvrant la porte à des risques importants.
● Ingénierie sociale – Les modèles d’IA Gen sont de plus en plus déployés pour créer de faux certificats, des fichiers audio et des vidéos conçus pour piéger des cibles afin de partager des données privées et des mots de passe. Avec des études suggérant que seuls 73% des personnes peuvent détecter la parole générée par l’IA, et que beaucoup sont incapables d’identifier de manière fiable de fausses images, l’accès à des systèmes à haut risque peut être aussi simple que de demander aux détenteurs de clés d’accéder.
● Attaques physiques – Jusqu’à 86% des organisations industrielles auraient adopté des solutions de l’Internet Industriel des Objets (IIoT) ces dernières années, ce qui signifie que des dispositifs connectés à Internet contrôlent actuellement un grand nombre de systèmes physiques. Le FBI a averti les législateurs de tentatives d’infiltration des systèmes IIoT en utilisant des modèles d’IA Gen, dans le but de remplacer les systèmes physiques et de détruire les infrastructures essentielles. Dans des environnements simulés, ces attaques ont permis aux pirates informatiques de endommager des équipements physiques, provoquant des dysfonctionnements, des explosions et des incendies.
● Fuites de données – Selon des rapports récents, jusqu’à 55% des événements de perte de données impliquent des utilisateurs entrant des informations personnellement identifiables dans des outils d’IA générative, reflétant une utilisation généralisée inappropriée de cette technologie par le grand public. Ce risque devient encore plus préoccupant lorsque les hackers déploient intentionnellement des modèles d’IA Gen pour accéder et exposer des informations confidentielles via des stratégies d’ingénierie sociale et des attaques par brute force pour contourner les protections traditionnelles de cybersécurité.
● Vol de technologie – Une préoccupation majeure pour de nombreuses organisations est la crainte que leurs propres modèles d’IA Gen puissent être compromis et retournés contre elles, une menace qui s’est récemment concrétisée par des violations internes de systèmes bien connus. Si des acteurs malveillants devaient accéder aux modèles d’IA développés par les agences de renseignement nationales, leurs capacités seraient considérablement renforcées, constituant une menace sérieuse pour la sécurité.
Se défendre contre les menaces de l’IA Gen
Avec les attaques cyber-physiques devenant une menace de plus en plus courante et attendue pour les organisations de la plupart des industries majeures, l’attention doit être dirigée vers des installations et des stratégies défensives intelligentes. Les parties prenantes doivent examiner les solutions de sécurité cyber et physiques existantes en tenant compte des processus infusés d’IA pour protéger de manière fiable les systèmes sensibles contre des menaces sophistiquées.
Si les organisations doivent accepter que les menaces de l’IA Gen continueront probablement d’impacter les opérations dans les années à venir, les dirigeants et les équipes de sécurité doivent trouver des moyens fiables d’utiliser cette technologie à leur avantage. Une recherche publiée en 2023 suggère que 53% des organisations reconnaissent la relation entre l’IA Gen et les risques de cybersécurité, bien que seuls 38% soient censés atténuer activement ces menaces. Comment l’IA Gen peut-elle être utilisée de façon défensive ?
Détection et réponse aux menaces
Comme les modèles d’IA Gen peuvent analyser constamment de nouvelles informations et s’adapter aux changements identifiés dans les signaux de menace, les organisations peuvent utilement utiliser ces outils pour protéger de manière proactive les systèmes centraux contre des attaques sophistiquées. Les solutions d’IA Gen peuvent être utilisées pour passer automatiquement en revue les données historiques afin d’identifier des actions anormales qui pourraient signifier de nouveaux risques. Les systèmes peuvent ensuite modifier instantanément les configurations opérationnelles clés pour répondre de manière fiable aux menaces évolutives en temps réel.
En positionnant les modèles d’IA Gen pour surveiller en permanence l’activité du réseau à la recherche de signes de comportement inhabituel, les organisations peuvent s’assurer que des mesures immédiates sont prises pour contenir et neutraliser les attaques. Le concept est particulièrement important pour les organisations poursuivant un certain degré de convergence de la sécurité physique et informatique, les attaques pouvant être contenues avant que les cybercriminels ne puissent infiltrer les contrôles associés aux systèmes de sécurité physique et aux installations IIoT.
Génération de correctifs de vulnérabilité
Les modèles d’IA Gen utilisés par des entités malveillantes se reposent souvent sur l’analyse des systèmes internes d’une organisation pour identifier les vulnérabilités exploitables. Les équipes peuvent défendre de manière proactive contre ce type d’attaque en déployant leurs propres outils d’IA Gen. Ces systèmes peuvent être conçus pour générer automatiquement des correctifs virtuels appropriés pour les vulnérabilités récemment découvertes.
Les modèles peuvent puiser dans des ensembles de données internes et externes pour tester adéquatement les correctifs dans des environnements contrôlés. Cela garantit que les correctifs peuvent être appliqués et optimisés de manière autonome sans interférer avec les opérations critiques, compromettre les systèmes physiques ou entraîner des temps d’arrêt inutiles.
Sécurité renforcée des identifiants
Les organisations peuvent utiliser des modèles d’IA Gen pour générer des identifiants falsifiés à des fins de test et d’optimisation. Par exemple, des données biométriques générées par IA, y compris des modèles de reconnaissance faciale et d’empreinte digitale, peuvent être créées pour former les systèmes internes à repérer des identifiants falsifiés. Ce même principe peut être appliqué à des tactiques textuelles, aidant les dirigeants à enseigner aux employés les signes révélateurs des stratégies d’ingénierie sociale générées par l’IA.
Conclusion
Les cyber-attaques sont une préoccupation croissante pour les gouvernements et les organisations du monde entier depuis de nombreuses années. Avec les progrès continus dans le domaine de l’IA générative, on s’attend à ce que de telles menaces deviennent de plus en plus sophistiquées. Ce risque est exacerbé par la communauté croissante des systèmes de sécurité physique et informatique convergés, 90% des organisations mondiales considérant les cyber-attaques comme une menace pour les solutions de sécurité physique.
Pour que les dirigeants et le personnel de sécurité puissent atténuer de manière fiable l’impact malveillant de l’IA Gen sur le paysage des menaces cyber-physiques, les équipes doivent être prêtes à utiliser de telles technologies à leur avantage. Les organisations peuvent protéger de manière fiable les actifs clés contre des attaques sophistiquées en exploitant la puissance de l’IA Gen pour surveiller, répondre et agir contre l’activité de menace cybernétique.