WormGPT : L'outil IA utilisé par les cybercriminels pour lancer des attaques par usurpation d'e-mail professionnel

Dans cet article, nous nous penchons sur l'utilisation émergente de l'IA générative, y compris ChatGPT d'OpenAI, et l'outil de cybercriminalité WormGPT, dans les attaques par usurpation d'e-mail professionnel (BEC). Mettant en évidence des cas réels issus de forums de cybercriminalité, cet article explore les mécaniques de ces attaques, les risques inhérents posés par les e-mails de phishing basés sur l'IA, et les avantages uniques de l'IA générative dans la facilitation de ces attaques.

L'IA générative révolutionne les attaques BEC

Le développement des technologies d'intelligence artificielle (IA) telles que ChatGPT d'OpenAI a introduit une nouvelle vectorisation pour les attaques par usurpation d'e-mail professionnel (BEC). ChatGPT, un modèle IA sophistiqué, génère du texte semblable à celui d'un humain en fonction des informations qu'il reçoit. Les cybercriminels peuvent utiliser cette technologie pour automatiser la création d'e-mails fictifs très convaincants, personnalisés pour le destinataire, augmentant ainsi les chances de succès de l'attaque.

Un guide pour les pirates : envoyer des attaques BEC

Prenez l'exemple de la première image ci-dessus, où un fil de discussion récent s'est déroulé sur un forum de cybercriminalité. Dans cet échange, un cybercriminel a démontré le potentiel de l'IA générative pour affiner un e-mail qui pourrait être utilisé dans une attaque de phishing ou BEC. Ils ont recommandé de rédiger l'e-mail dans leur langue maternelle, de le traduire, puis de l'introduire dans une interface comme ChatGPT pour améliorer sa sophistication et sa formalité. Cette méthode introduit une implication majeure : les attaquants, même ceux qui ne maîtrisent pas une langue particulière, sont désormais plus capables que jamais de fabriquer des e-mails convaincants pour des attaques de phishing ou BEC.

WormGPT : un nouvel outil dans l'arsenal des cybercriminels

Récemment, notre équipe a eu accès à un outil connu sous le nom de "WormGPT" via un forum en ligne souvent associé à la cybercriminalité. Cet outil se présente comme une alternative blackhat aux modèles GPT, conçus spécifiquement pour des activités malveillantes.

WormGPT est un module IA basé sur le modèle de langage GPTJ, qui a été développé en 2021. Il offre une gamme de fonctionnalités, dont le support de caractères illimité, la rétention de la mémoire de chat, et les capacités de formatage de code.

Les avantages de l'utilisation de l'IA générative pour les attaques BEC

Quels sont les avantages spécifiques de l'utilisation de l'IA générative pour les attaques BEC ?

Grammaire exceptionnelle : L'IA générative peut créer des e-mails avec une grammaire impeccable, ce qui les rend légitimes et réduit la probabilité qu'ils soient signalés comme suspects.

Seuil d'entrée abaissé : L'utilisation de l'IA générative démocratise l'exécution d'attaques BEC sophistiquées. Même les attaquants disposant de compétences limitées peuvent utiliser cette technologie, ce qui en fait un outil accessible à un large éventail de cybercriminels.

Comment se protéger contre les attaques BEC basées sur l'IA

En conclusion, la croissance de l'IA, bien qu'elle soit bénéfique, apporte de nouvelles vecteurs d'attaques progressives. Il est crucial de mettre en place des mesures préventives solides. Voici quelques stratégies que vous pouvez adopter :

Formation spécifique à BEC : Les entreprises devraient développer des programmes de formation complets, régulièrement mis à jour, visant à contrer les attaques BEC, en particulier celles renforcées par l'IA. Ces programmes devraient éduquer les employés sur la nature des menaces BEC, comment l'IA est utilisée pour les augmenter, et les tactiques employées par les attaquants. Cette formation devrait également être intégrée en tant qu'aspect continu du développement professionnel des employés.

Mesures renforcées de vérification des e-mails : Pour se prémunir contre les attaques BEC basées sur l'IA, les organisations devraient mettre en place des processus de vérification des e-mails rigoureux. Il s'agit notamment de mettre en place des systèmes qui alertent automatiquement lorsqu'un e-mail provenant de l'extérieur de l'organisation usurpe les cadres internes ou les fournisseurs, et d'utiliser des systèmes de messagerie qui signalent les messages contenant des mots-clés spécifiques liés aux attaques BEC comme "urgent", "sensible", ou "virement bancaire". De telles mesures garantissent que les e-mails potentiellement malveillants sont soumis à un examen approfondi avant toute action.