GenAI : l’arme ultime des pirates pour infiltrer vos e-mails

Avec l’arrivée de technologies comme ChatGPT, Claude 3.5 ou WormGPT, les cybercriminels automatisent désormais la création d’e‑mails de phishing ultra‑personnalisés. Ces attaques combinent innovation linguistique et collecte de données publiques (LinkedIn, GitHub, publications professionnelles…) pour produire des messages crédibles à très large échelle CybelAngelcoalitioninc.com – DMARC Report.

Qu’est-ce que le GenAI (Generative AI) ?

GenAI, ou Intelligence Artificielle Générative, désigne une catégorie d’intelligence artificielle capable de créer du contenu original de manière autonome : texte, images, code, vidéo ou audio. Contrairement aux IA classiques qui se contentent d’analyser ou de classer des données, GenAI peut générer des phrases cohérentes, imiter un style humain ou produire des messages réalistes.

Dans le domaine de la cybersécurité, GenAI est aujourd’hui exploitée par les attaquants pour :

• Rédiger automatiquement des e‑mails de phishing crédibles (sans fautes, personnalisés, convaincants) ;
• Générer des campagnes polymorphes pour contourner les filtres anti-spam ;
• Simuler des échanges humains (chat, support technique, RH) pour tromper les victimes.

Exemples d’outils GenAI utilisés à des fins malveillantes :

• WormGPT, FraudGPT : IA génératives conçues pour contourner les règles éthiques et produire du contenu de phishing sophistiqué.
• ChatGPT mal détourné pour écrire des e-mails d’arnaque ou produire du code malveillant.

Objectif principal :

• Exploiter les vulnérabilités humaines (finances, RH, direction),
• Vol d’identifiants, faux sites de connexion,
• Escroqueries BEC ou de faux avis de sécurité.

Un essor fulgurant en 2024–2025

• Selon SentinelOne, les attaques de phishing pilotées par GenAI ont grimpé de 1 265 % en un an, depuis fin 2024 .
• Sift observe une hausse de 456 % des escroqueries liées à GenAI entre mai 2024 et avril 2025, et estime que 82 % des e‑mails de phishing sont désormais générés via AI Sift.
• Le volume total des phishing a explosé de 4 151 % depuis 2022, selon SlashNext, renforcé par l’usage massif de ChatGPT .

Mécanismes et tactiques des campagnes GenAI

a) Polymorphisme et optimisation automatisée

• En 2024, environ 76 % des e‑mails de phishing présentaient des éléments polymorphes (variations mineures entre plusieurs messages pour éviter les filtres). Ce taux monte à ~91 % lorsque l’on inclut l’usage de l’IA knowbe4.com.
• L’IA permet des tests A/B instantanés : les versions performantes (celui qui génère le plus de clics) se multiplient, les autres sont abandonnées coalitioninc.comDMARC Report.

b) Hyper‑personnalisation

• Les messages sont taillés sur mesure selon le rôle, les projets, ou même le style d’écriture de la cible. L’IA imite collègues, partenaires ou fournisseurs avec fidélité coalitioninc.comDMARC Report.

c) Économie et rapidité

• L’utilisation de GenAI minimise le coût : un phishing automatisé peut coûter aussi peu que 50 USD pour des résultats équivalents à ceux produits par des équipes humaines à coût bien plus élevé .
• Et les campagnes peuvent être créées 40 % plus rapidement grâce aux modèles linguistiques avancés DashlaneCybelAngel.

Efficacité redoutable : résultats concrets

• Étude scientifique : un outil automatisé (GPT‑4o ou Claude 3.5) a généré une campagne de spear phishing avec un taux de clics (CTR) de 54 %, nettement supérieur aux 12 % obtenus par des campagnes génériques — avec un coût 30 fois moindre que l’intervention humaine Malwarebytes.
• Le Hoxhunt AI Spear Phishing Agent (JKR) a même dépassé les équipes de red team humaine en mars 2025 : 55 % d’amélioration par rapport à 2023, et performance supérieure à celles des experts humains hoxhunt.com.

Exemples de menace AI‑powerisées

• Fake browser update scams : fausses alertes de mise à jour de navigateur, avec malwares ou sites malveillants. Ce type a augmenté de 17× au Q1 2025 Gen Digital NewsroomGen™.
• Scam-yourself attacks : campagnes où la cible s’auto‑infecte en suivant un lien ou une installation soi‑disant sécurisante. Plus de 4 millions de victimes empêchées Gen™Gen Digital Newsroom.

Risques et impacts organisationnels

• Vol d’accès cloud (Microsoft 365, Google Workspace) via des faux portails de connexion,
• BEC sophistiqués : faux fournisseurs, injonctions urgentes de paiement ou modification bancaire,
• Ransomware : les campagnes GenAI servent souvent de point d’entrée,
• Perte financière : IBM estime à 4,88 M USD le coût moyen d’une brèche liée à phishing en 2024 hoxhunt.comstrongestlayer.com.

7. Défenses recommandées

a) Techniques techniques

• Déployer MFA sur tous les accès critiques pour réduire l’impact d’un vol de mot de passe,
• Mettre en œuvre SPF, DKIM, DMARC afin de prévenir l’usurpation de domaine et limiter la livraison d’e‑mails spoofés coalitioninc.com.

b) Sécurité avancée

• Les filtres traditionnels ne suffisent plus : recourir à des solutions dotées d’intelligence contextuelle comme MailSecure IA (analyse d’intention, comportement) .

c) Formation des utilisateurs

• Entraînement basé sur le comportement : les simulations de phishing basées sur des scénarios AI aident à réduire les erreurs de 86 % en 6 mois hoxhunt.comhoxhunt.com.

d) Veille proactive

• Analyse continue des campagnes A/B et des dynamiques polymorphiques,
• Partage d’intelligence (“threat intelligence”) et apprentissage contre les modèles adverses.

Conclusion

Les campagnes de phishing automatisées via GenAI représentent aujourd’hui la menace la plus sophistiquée et rentable pour les cybercriminels. Elles combinent rapidité, personnalisation extrême, adaptation instantanée et contournement des filtres classiques.

Face à cette évolution, les défenses doivent évoluer : adoption du MFA, protocoles d’authentification rigoureux, filtres intelligents, et surtout formation dynamique des utilisateurs. Cette approche coordonnée est essentielle pour protéger les organisations dans un paysage menace où l’IA sert autant les défenseurs que les attaquants.

Protégez-vous des GenAI et autres menaces avec MailSecure

Face à la sophistication croissante des attaques par e-mail, il est essentiel de disposer d’une solution de cybersécurité avancée. MailSecure est une protection avancée contre les ransomwares, le phishing, les malwares et les menaces émergentes grâce à ses technologies d’intelligence artificielle, de machine learning, d’analyse comportementale.

Essayez gratuitement MailSecure pendant 15 jours et découvrez comment notre solution peut renforcer la sécurité de votre messagerie, quel que soit votre fournisseur (Microsoft 365, OVH, Ionos, Infomaniak, etc.).
👉 Profiter de l’essai gratuit