L’intelligence artificielle au service d’attaques cybercriminelles ? Se préparer en conséquence

Selon une étude du MIT Technology Review Insights en collaboration avec DARKTRACE, l’intelligence artificielle entre les mains des cybercriminels pose une menace existentielle contre les entreprises dont les équipes de sécurité devraient très vite adopter une « intelligence artificielle défensive » ou encore « defensive Ai » par opposition à « offensive Ai ».

Les attaques cybercriminelles continuent de croître en prévalence et en complexité. Avec une effrayante capacité de perturber les opérations multiformes d’une entreprise, une capacité de compromettre des données critiques de l’entreprise et causer de sérieuses atteintes à la réputation des entreprises, elles posent une menace existentielle aux entreprises et tout ce qui va avec.

Les attaques d’aujourd’hui dépassent petit à petit l’entendement humain grâce à l’intégration entre autres, de l’intelligence artificielle (IA). On parle alors « d’intelligence artificielle offensive » ou de « offensive Ai » en anglais.

L’offensive Ai permettra aux cybercriminels d’attaquer à des vitesses et échelles sans précédent tout en se la coulant douce sous les radars des outils de détections traditionnels souvent basés sur des règles souvent bien définies.

À ce stade déjà, les entreprises les plus grandes et les plus réputées de ce monde se sont déjà vues victimes d’attaques cybercriminelles très dommageables les ayant mises dans l’incapacité de protéger leurs données les plus critiques.

Maintenant avec l’offensive Ai pointant fort à l’horizon, les entreprises ont d’ores et déjà besoin d’adopter de nouvelles défenses pour se protéger plus efficacement : ainsi débute la bataille des algorithmes. Le MIT Technology Review Insights en collaboration avec l’entreprise de cybersécurité DARKTRACE, ont fait une étude interrogeant plus de 300 cadres supérieurs, directeurs et managers à travers le monde pour comprendre comment ils faisaient face aux menaces cybercriminelles en plein essor actuellement et comment utiliser l’intelligence artificielle pour mieux se protéger.

En effet, 60% des personnes interrogées affirment que la réponse humaine aux cyberattaques a du mal à tenir bon face aux cyberattaques automatisées si bien qu’au fur et à mesure que les challenges se complexifient, les entreprises devraient adopter une défense plus adaptée. Et là, une majorité écrasante – 96% – affirme déjà avoir commencé à se protéger contre des cyberattaques basées sur de l’intelligence artificielle grâce à du defensive Ai.

Quelques précisions sur l’étude en question

Se basant sur une combinaison de données issues des sondages de marché avec des discussions en profondeur avec de nombreux cadres supérieurs, l’étude explore les plus grands challenges rencontrés par les entreprises en matière de cybersécurité et comment ces entreprises adoptent l’intelligence artificielle pour faire face aux cyberattaques rendues possibles par l’intelligence artificielle.

• De décembre 2020 à janvier 2021, MIT Technology Review Insights a interrogé 309 leaders d’entreprises à travers le monde – 60% d’entre eux étant des hauts cadres d’entreprises, des directeurs.

• Les personnes interrogées viennent de toute la surface du globe. En effet, 36% viennent de l’Afrique, de l’Europe et du Moyen-Orient. 48% de l’Amérique du Nord, 11% de l’Asie Pacifique et 5% de l’Amérique latine.

• Les participants à cette étude exercent dans plus d’une douzaine d’industries différentes : l’informatique et les télécommunications à 31% (représentant le plus grand groupe), suivi par les industriels à 13% et les services financiers à 12%.

Les participants étaient questionnés sur comment se préparaient-ils pour faire face aux cyberattaques commandées par intelligence artificielle.

Les cyberattaques les plus inquiétantes

Lorsqu’il est vrai que tout type potentiel de cyberattaque est alarmant, le phishing et les ransomware sont les attaques qui inquiètent le plus, les entreprises.

Les attaques cybercriminelles commandées par intelligence artificielle sont très intimidantes et c’est normal car, ce sont des attaques dotées d’une intelligence (artificielle) en plus de leur vitesse de déploiement qui peut être insaisissable pour l’homme. C’est le cas par exemple d’outils de deepfakes (deep learning + fake) ou encore hypertrucage, armés d’intelligence artificielle pour fabriquer des infox telles que de fausses scènes en images ou en vidéos avec des personnes qui parfois n’avaient jamais existées ou n’avaient jamais été présents sur les lieux décrits dans ces images ou vidéos.

En janvier 2020, le FBI alertait déjà sur le fait que la technologie deepfake avait déjà atteint un point où, des personnages fictifs pouvant passer et réussir des tests biométriques pouvaient être créés.

Aussi… vu le rythme d’évolution des réseaux de neurones reposant sur de l’intelligence artificielle, un agent officiel du FBI disait déjà à cette époque que :

La sécurité nationale pourrait se retrouvée minée par des vidéos en haute définition créées pour mimer des célébrités et personnalités publiques de façon à ce qu’elles soient en train de dire tout ce que les créateurs de contenus voudraient qu’ils disent.

FBI

Cela est juste un exemple de technologies utilisées pour des fins odieusement néfastes. L’intelligence artificielle pourrait ainsi, à un degré donné, piloter des attaques cybercriminelles s’exécutant de façon absolument autonome avec une capacité de masquer leur caractère dangereux et néfaste, se fondant dans le moule d’activités saines, non néfastes et normales.

Les risques et développements de l’offensive Ai dans la sphère des menaces cybercriminelles sont en train de redéfinir la notion de sécurité en général et celle de la sécurité en entreprise de façon particulière tenant compte du fait que l’humain ait déjà du mal à faire face à des attaques cybercriminelles traditionnellement avancées. En effet, ¾ des personnes interrogées ont fait savoir que les cyberattaques par e-mail telles que le phishing leur causait plus de tort et de frustration. Cela n’est pas surprenant puisque 94% des cyberattaques et de malware sont perpétrées ou diffusés via e-mail.

• E-mail et Phishing : 74%
• Ransomware et autre cyberattaque à forte propagation: 73%
• Cyberattaques visant les infrastructure Cloud: 68%
• Fuites de données et cyberattaques provoquées de l’intérieur: 64%
• Risques introduits par une main d’œuvre dispersée: 58%
• Menaces relatives aux applications du Cloud: 57%

Le défi de faire face aux cyberattaques pilotées par l’intelligence artificielle

Les méchants savent que tout le monde tient au travail à distance. Si vous êtes attaqués maintenant et que vous devenez incapables de fournir le travail à distance à vos employés, c’est la fin des haricots.

Max Heinemeyer, Threat Hunting Director, Darktrace.

Les leaders d’entreprises interrogés font savoir que les attaques cybercriminelles automatisées par l’intelligence artificielle menacent d’écraser la capacité de la réponse managériale ainsi que celle des outils actuels.

• La réponse humaine ne tiendra pas: 60%
• Les outils actuels ne peuvent anticiper de nouvelles attaques: 55%
• Embaucher des employés qualifiés est une tâche difficile: 50%
• Les données en silos rendent difficile la compréhension d’une attaque: 43%
• Trop d’alertes de sécurité à gérer: 34%
• Un personnel disponible 24/24 est requis: 31%

Lorsque l’offensive Ai sera pleinement adopté, les emails frauduleux ne seront quasiment plus identifiables et distinguables des communications légitimes venant de contacts de confiance.

Comment l’intelligence artificielle sera utilisée contre les entreprises ?

Avant d’aborder les résultats de l’étude concernant cette question, il me plait tout d’abord de signaler les facteurs qui posent le problème d’un nouveau questionnement sur les limites des méthodes actuelles employées dans la cybersécurité que sont : le changement, le changement rapide et dans le cas du travail à distance globalisé, la complexité.

Ces facteurs posent le problème des méthodes actuelles se basant principalement sur des approches statiques orientées signatures : ce caractère statique rend ces méthodes inefficaces dans un contexte de changement rapide et de complexité grandissante.

Les limites de la cybersécurité classique avaient d’ailleurs encore une fois été exposées en décembre 2020 lorsqu’une campagne attribuée à des « groupes d’intelligence russe » avaient infiltré certaines des plus importantes entreprises du monde incluant des filiales du gouvernement américain.

En février 2021, les hackers ont infiltré les systèmes d’une installation d’eau à Oldsmar en Floride pour essayer de modifier les doses de produits chimiques dans la fourniture d’eau à des extrêmes empoisonnantes.

Maintenant, revenons-en à comment l’intelligence artificielle pourrait être utilisée contre les entreprises. Les cadres supérieurs interrogés affirment que l’intelligence artificielle sera utilisée pour booster le social engineering permettant d’infiltrer des personnes et même, déclencher des ransomware…

• Usurpation d’identité Spear-Phishing: 68%
• Des ransomware plus coriaces: 57%
• Désinformation et atteinte à l’intégrité des données: 56%
• Perturbation du travail à distance avec le ciblage des réseaux domestiques: 53%
• Deepfakes: 43%

Reprendre la main grâce au Defensive Ai (Intelligence artificielle défensive)

De nombreuses organisations se tournent vers le defensive ai pour combattre le feu avec du feu. Ainsi, au lieu de ne se baser que sur l’historique d’attaques passées afin d’en déterminer de nouvelles, le defensive Ai apprend (au sens de l’apprentissage automatique, machine learning) à détecter ce qui est normal et anormal à une organisation.

C’est-à-dire que, les potentielles activités malicieuses sont détectées aussitôt qu’elles apparaissent même s’il s’agit de quelque chose d’absolument nouveau qu’on n’a jamais expérimenté auparavant.

Dû au fait que l’humain a du mal à rester en phase avec le rythme des innovations apportées par l’intelligence artificielle, de nouvelles réponses technologiques sont désormais nécessaires.

Ainsi, des milliers d’entreprises fondent leurs espoirs sur l’intelligence artificielle pour réagir à des incidents dotés d’une capacité de croissance inégalée, que l’équipe de sécurité informatique soit présente ou pas.

Connue sous le nom de « réponse autonome » et rendue possible grâce à une intelligence artificielle autodidacte (self-learning Ai), cette technologie peut stopper une attaque en cours sans interrompre le fonctionnement de l’entreprise.

Voici un exemple d’une réponse autonome (en action) paru sur le blog de DARKTRACE:

Un fabricant de produits électroniques fut attaqué par un ransomware qui s’est rapidement propagé dans le système et chiffrant les données de l’entreprise. La souche de ce ransomware n’avait jamais été rencontrée avant si bien qu’il n’était aucunement associé à des informations publiquement disponibles concernant les ransomware.

Toutefois, la réponse automatique a permis commandée par l’intelligence artificielle a reconnu la nouveauté des motifs de comportements anormaux et a stoppé le ransomware en quelques secondes. Ainsi, l’équipe de sécurité a gagné du temps qu’elle a certainement su mieux investir !

En automatisant le processus de détection de menaces, celui d’investigation et de réponse, l’intelligence artificielle augmente l’efficacité des équipes de sécurité en stoppant les menaces aussitôt qu’elles surviennent permettant aux humains de l’équipe de se concentrer à des tâches beaucoup plus stratégiques.

Se préparer contre l’offensive AI :  À quel point les entreprises sont elles sensibles et à quels degrés comptent-elles réagir ?

Les personnes interrogées dans cette étude nous ont révélé que quasiment toutes les entreprises prévoient faire quelque chose pour se protéger contre l’évolution des menaces et que seulement 4% des personnes interrogées révèlent ne rien foutre encore.

• Augmentent leur budget alloué à la sécurité: 52%
• Évaluent des systèmes de sécurité à base d’intelligence artificielle: 44%
• Automatisent le processus d’investigation: 39%
• Déploient des technologies de réponses autonomes: 38%
• Embauchent plus d’analystes en sécurité: 38%
• Se confient à des fournisseurs de services de sécurité: 31%

Conclusion

Les entreprises doivent rapidement réformer leurs stratégies, être préparées à protéger leurs actifs numériques et reprendre le dessus sur cette nouvelle vague d’attaques assez sophistiquées. Et s’il faut uniquement retenir trois (03) choses de cet article, ce seraient les suivantes :

1. Les cybercriminels sont en train de se tourner vers l’intelligence artificielle pour attaquer à de plus grandes échelles et s’évader de toute détection.
2. Suivant l’étude réalisée par MIT Technology Review Insights, plus de la moitié des leaders d’entreprises interrogés affirment que les stratégies de sécurité reposant sur l’intervention humaine vis-à-vis d’attaques changeantes et évoluant à une vitesse exponentielle échouent.
3. Pour garder le cap avec l’innovation cybercriminelle en cours, le defensive Ai emploie des algorithmes autodidactes (self-learning algorithms) pour comprendre les motifs normaux des comportements d’utilisateurs, de machines et de systèmes ainsi que pour détecter les activités anormales le tout, sans avoir besoin d’exploiter des données provenant d’attaques rencontrées dans le passé.

Cet article avait pour but de montrer comment l’intelligence artificielle va faire renaître la cybersécurité tant du côté des victimes que du côtés cybercriminels. Si tu as pu apprendre quelque chose en lisant cet article, n’oublie pas de le partager pour aider d’autres personnes aussi à apprendre quelque chose et contribuer à créer une culture de sécurité dans un monde où la digitalisation ne va pas cesser de prendre des proportions extraordinaires!

La cybersécurité t’intéresse mais tu ne sais pas par où commencer ? J’ai créé le cours parfait pour toi. Clique simplement ici pour que je te l’envoie.