Comment les acteurs de la menace utilisent-ils l’IA générative ?
« Nous avons pu tromper un modèle d'IA générative pour développer des e-mails de phishing très convaincants en seulement cinq minutes », note Carruthers dans un article de blog IBM SecurityIntelligence. « Il faut généralement environ 16 heures à mon équipe pour créer un e-mail de phishing, sans tenir compte de la configuration de l'infrastructure. Ainsi, les attaquants peuvent potentiellement gagner près de deux jours de travail en utilisant des modèles d’IA génératifs.
Entre ces gains de temps et la personnalisation des e-mails que permet l’IA générative, les acteurs malveillants exploitent ChatGPT, WormGPT et d’autres produits d’IA en tant que service pour créer de nouveaux e-mails de phishing à un rythme rapide. Cela leur permet d’attaquer largement, avec une plus grande fréquence et plus de succès. Cette technologie peut également envoyer des e-mails de phishing personnalisés à un groupe spécifique de personnes, une tactique particulièrement utile pour le spear phishing.
C'est l'une des principales raisons pour lesquelles 98 % des responsables de la cybersécurité se disent préoccupés par les risques de cybersécurité posés par ChatGPT, Google Gemini (anciennement Bard) et d'autres outils d'IA générative similaires. Mais l’IA n’est qu’un outil. Tout comme il peut être utilisé pour améliorer les attaques par courrier électronique de phishing, il peut être utilisé pour mieux s’en défendre.
Comment se protéger contre ces nouvelles attaques ?
Alors que les attaques par e-mail de phishing continuent d'évoluer, les responsables de la sécurité des soins de santé doivent améliorer leurs défenses. Selon une étude récente, plus de la moitié des organisations informatiques s'appuient sur leurs fournisseurs de messagerie cloud et leurs outils existants pour la sécurité et sont convaincues que ces solutions, ainsi que d'autres solutions traditionnelles, seront capables de détecter et de bloquer les attaques générées par l'IA. Ces protections sont utiles, mais la meilleure défense contre l’IA est l’IA.
Check Point énumère trois principaux avantages de l'utilisation de l'IA pour la sécurité de la messagerie : une détection améliorée des menaces, des renseignements améliorés sur les menaces et une réponse plus rapide aux incidents.
L'IA peut identifier le contenu de phishing grâce à une gamme de techniques, notamment l'analyse comportementale, le traitement du langage naturel, l'analyse des pièces jointes, la détection d'URL malveillantes, la veille sur les menaces et la réponse aux incidents.
En plus des défenses de sécurité de l’IA, les entreprises doivent également mettre en œuvre une formation en sécurité pour réduire le risque d’erreur humaine. Cela signifie éduquer les employés sur ce à quoi ressemblent les attaques de phishing génératives basées sur l'IA, depuis les modèles stylistiques révélateurs jusqu'aux promesses grandioses typiques, explique Glenice Tan, spécialiste de la cybersécurité à la Government Technology Agency, dans un article.
« La formation à la sécurité a toujours un rôle à jouer », dit-elle. « Soyez prudent et restez sceptique. »