Dans le paysage technologique actuel, l’Intelligence Artificielle (IA) générative est au centre des préoccupations des dirigeants et des chercheurs du monde entier. Si le grand public discute souvent des effets sociétaux plus larges, tels que la propagation de la désinformation en ligne et comment l’IA pourrait affecter la disponibilité des emplois, les responsables du renseignement américain sonnent l’alarme, craignant que les récentes avancées rapides en IA puissent dépasser la réglementation gouvernementale.
En parallèle, des études soutenues par Microsoft révèlent que 87% des organisations britanniques sont exposées aux cyberattaques alimentées par l’IA. Cette situation a entraîné un changement du paysage des menaces. Mais quels sont les usages malveillants spécifiques de l’IA générale qui préoccupent les experts ?
Les Menaces Posées par l’IA Générative
Si le grand public considère souvent l’IA générative comme un outil passionnant pour créer du contenu et optimiser les flux de travail, la réalité pour de nombreuses organisations est légèrement plus préoccupante. Avec la capacité de créer des fabrications convaincantes et de traiter de grandes quantités de données de manière autonome, les acteurs malveillants peuvent (et dans de nombreux cas l’ont déjà fait) infiltrer des systèmes jusqu’alors impénétrables.
Aux mains d’acteurs malveillants, les modèles d’IA générale ont la capacité d’analyser et d’exploiter les systèmes informatiques entiers d’une organisation, identifiant et exploitant les vecteurs d’attaque et les vulnérabilités les plus courants. La principale préoccupation est la rapidité et la précision avec lesquelles de nombreux algorithmes modernes peuvent effectuer de telles fonctions, ouvrant la porte à des risques de sécurité importants.
– Ingénierie sociale : les modèles d’IA générative sont de plus en plus utilisés pour créer de fausses informations, des fichiers audio et des vidéos conçus pour tromper des cibles afin d’obtenir des données privées et des mots de passe. Étant donné que seuls 73% des personnes peuvent détecter un discours généré par IA et que beaucoup ne peuvent pas identifier de manière fiable de fausses images, accéder à des systèmes à haut risque pourrait être aussi simple que de demander l’accès aux détenteurs clés.
– Attaques physiques : jusqu’à 86% des organisations industrielles sont censées avoir adopté des solutions Internet des Objets Industriels (IIoT) ces dernières années, ce qui signifie que des dispositifs connectés à Internet contrôlent actuellement un grand nombre de systèmes physiques. Le FBI a alerté les législateurs sur des tentatives réelles d’infiltration de systèmes IIoT à l’aide de modèles d’IA générale dans le but de contourner les systèmes physiques et de détruire des infrastructures essentielles.
– Violations de données : selon des rapports récents, jusqu’à 55% des événements de perte de données impliquent que les utilisateurs saisissent des informations personnellement identifiables dans des outils d’IA générative, reflétant une utilisation généralisée de cette technologie. Ce risque devient encore plus préoccupant lorsque des pirates informatiques déploient intentionnellement des modèles d’IA générative pour accéder et exposer des informations confidentielles grâce à des stratégies d’ingénierie sociale et des attaques par force brute.
– Vol de technologie : de nombreuses organisations craignent que leurs propres modèles d’IA générative puissent être compromis et retournés contre elles, une menace qui s’est récemment concrétisée par des violations internes de systèmes connus. Si des acteurs malveillants venaient à accéder à des modèles d’IA développés par des agences de renseignement nationales, leurs capacités seraient considérablement accrues, constituant une menace majeure pour la sécurité.
Se Défendre Contre les Menaces de l’IA Générative
Avec la montée en puissance des cyberattaques physiques, les organisations doivent envisager des installations et des stratégies de défense intelligentes. Les parties prenantes doivent revoir les solutions de sécurité informatique et physique existantes en tenant compte des processus alimentés par l’IA pour protéger efficacement les systèmes sensibles des menaces sophistiquées.
Si les organisations acceptent que les menaces de l’IA générative continueront probablement à avoir un impact sur les opérations dans les années à venir, les responsables et les équipes de sécurité doivent trouver des moyens fiables d’utiliser cette technologie à leur avantage. Les organisations peuvent protéger efficacement leurs actifs clés contre les attaques sophistiquées en utilisant la puissance de l’IA générative pour surveiller, répondre et agir contre les activités de menaces cybernétiques.
Détection et Réponse aux Menaces
En permettant aux modèles d’IA générative d’analyser continuellement de nouvelles informations et de s’adapter aux changements identifiés dans les signaux de menace, les organisations peuvent utiliser de manière proactive ces outils pour protéger les systèmes principaux contre les attaques sophistiquées. Les solutions d’IA générative peuvent être utilisées pour analyser de manière autonome des données historiques afin d’identifier des actions anormales pouvant signifier des risques nouveaux. Les systèmes peuvent ensuite modifier instantanément les configurations opérationnelles clés pour faire face de manière fiable aux menaces évolutives en temps réel.
En positionnant les modèles d’IA générative pour surveiller en continu l’activité réseau à la recherche de signaux de comportement inhabituel, les organisations peuvent s’assurer que des mesures immédiates sont prises pour contenir et neutraliser les attaques. Ce concept est particulièrement important pour les organisations qui cherchent à converger une certaine mesure de sécurité informatique et physique, car les attaques peuvent être contenues avant que les cybercriminels ne parviennent à infiltrer les contrôles associés aux systèmes de sécurité physique et aux installations IIoT.
Génération de Correctifs de Vulnérabilité
Les modèles d’IA générative utilisés par des entités malveillantes se reposent souvent sur l’analyse des systèmes internes d’une organisation pour identifier des vulnérabilités exploitables. Les équipes peuvent se défendre de manière proactive contre ce type d’attaque en déployant leurs propres outils d’IA générative. Ces systèmes peuvent être conçus pour générer automatiquement des correctifs virtuels appropriés pour les vulnérabilités nouvellement découvertes.
Les modèles peuvent puiser dans des ensembles de données internes et externes pour tester de manière appropriée les correctifs dans des environnements contrôlés. Cela garantit que les correctifs peuvent être appliqués et optimisés de manière autonome sans interférer avec les opérations critiques, compromettre les systèmes physiques ou entraîner des temps d’arrêt inutiles.
Renforcement de la Sécurité des Identifiants
Les organisations peuvent utiliser des modèles d’IA générative pour générer des identifiants fabriqués à des fins de test et d’optimisation. Par exemple, des données biométriques générées par IA, y compris la reconnaissance faciale et les motifs d’empreintes digitales, peuvent être créées pour former les systèmes internes à repérer des identifiants fabriqués. Ce même principe peut être appliqué aux tactiques basées sur le texte, aidant les leaders à apprendre aux employés à repérer les signaux d’alarme des stratégies d’ingénierie sociale générées par l’IA.
Conclusion
Les cyberattaques sont une préoccupation croissante pour les gouvernements et les organisations du monde entier depuis de nombreuses années. Avec les avancées continues dans le domaine de l’IA générative, on s’attend à ce que de telles menaces deviennent de plus en plus sophistiquées. Ce risque est exacerbé par la fréquence croissante de la convergence des systèmes de sécurité physique et informatique, 90% des organisations mondiales estimant que les cyberattaques posent une menace pour les solutions de sécurité physique.
Pour que les dirigeants et le personnel de sécurité puissent atténuer de manière fiable l’impact malveillant de l’IA générative sur le paysage des menaces cyber-physiques, les équipes doivent être prêtes à utiliser ces technologies à leur avantage. Les organisations peuvent protéger de manière fiable leurs actifs clés contre les attaques sophistiquées en exploitant le pouvoir de l’IA générative pour surveiller en continu, répondre et agir contre les activités de menace cybernétique.