Lire l'essentiel
Comprendre le risque du phishing IA avec Worm GPT
Le monde du cybercrime évolue constamment, et l’un des développements les plus récents et les plus inquiétants est l’utilisation de l’Intelligence Artificielle (IA) pour améliorer les campagnes de phishing. Un outil particulièrement préoccupant, appelé Worm GPT, a été découvert sur les forums underground par l’éditeur de sécurité, Slashnext. Worm GPT est un module d’IA basé sur le modèle de langage GPTJ, développé en 2021, qui offre une série de fonctionnalités, notamment la prise en charge d’un nombre illimité de caractères, la conservation de la mémoire des chats et des capacités de formatage de code.
Comment Worm GPT améliore les campagnes de phishing
Le chercheur en sécurité, Daniel Kelley, a déclaré que Worm GPT est une alternative clandestine aux modèles GPT, conçue spécifiquement pour les activités malveillantes. Les hackers peuvent utiliser cette technologie pour automatiser la création de faux courriels très convaincants, personnalisés en fonction du destinataire, augmentant ainsi les chances de réussite de l’attaque.
Les équipes de Slashnext ont également observé une tendance sur les forums de partage de « jailbreak » pour les IA génératives, en particulier ChatGPT et Bard. Il s’agit de prompts spécialisés pour forcer les agents conversationnels à générer des résultats pouvant impliquer la divulgation d’informations sensibles, la production de contenus inappropriés, voire l’exécution de codes nuisibles.
Les mesures prises pour contrer l’abus de l’IA générative
Face à cette montée en puissance du côté obscur, les éditeurs d’IA générative prennent des mesures pour éviter l’utilisation abusive des LLM (grand modèle de langage). Cependant, tous les acteurs ne sont pas au même niveau. Par exemple, CheckPoint a souligné dans un récent rapport que les restrictions anti-abus de Bard dans le domaine de la cybersécurité sont nettement inférieures à celles de ChatGPT. Par conséquence, il est beaucoup plus facile de générer du contenu malveillant en se servant des capacités de Bard.
En conclusion, il est essentiel de rester vigilant et de se tenir au courant des dernières tendances en matière de cybercriminalité. L’IA, bien que bénéfique dans de nombreux domaines, peut également être utilisée à des fins malveillantes, comme le démontre l’exemple de Worm GPT.