Des chercheurs de l’Université Cornell ont créé un ver informatique capable d’infecter les agents d’intelligence artificielle (IA). Baptisé Morris II, ce ver vise spécifiquement les systèmes d’IA génératifs pour siphonner des données et propager des malwares. Cette démonstration met en lumière la vulnérabilité croissante des modèles de langage à grande échelle face aux cybermenaces.
Le ver Morris II utilise des prompts « auto-réplicatifs » pour se propager, forçant les systèmes d’IA générative à autoproduire des instructions supplémentaires dans leurs réponses. Les chercheurs ont testé deux méthodes d’auto-réplication : via des prompts textuels et en intégrant un prompt dans un fichier image. Les deux méthodes ont permis de « contaminer » la base de données des assistants de messagerie, dérobant ainsi des données sensibles.
Une Menace à Prendre au Sérieux
Bien que ces vers IA n’aient pas encore été observés en conditions réelles, ils représentent un risque de sécurité que les entreprises tech doivent anticiper. Les chercheurs de Cornell Tech ont partagé leurs travaux avec Google et OpenAI pour rendre leurs systèmes plus résilients. Il est crucial de travailler avec des outils sains et de protéger ses terminaux avec une suite de sécurité antivirus adaptée.