Des vers d'IA dans votre PC avec Copilot? Un expert en IA l'affirme, c'est plus probable qu'il y paraît

Une nouvelle menace liée à l'intelligence artificielle vient de faire surface, et elle devrait alerter tous les utilisateurs de Microsoft Copilot. D'après l'expert Håkon Måløy, des vers d'IA pourraient potentiellement s'introduire dans les ordinateurs via des documents inoffensifs, engageant ainsi une série de risques en matière de cybersécurité. Si vous aimez utiliser les outils d'IA pour simplifier vos travaux, il est temps de rester vigilant face à cette vulnérabilité qui pourrait transformer un simple document en réel vecteur de propagation.

Comment fonctionne cette attaque via un document Word?

Le mécanisme est diaboliquement simple. Un attaquant peut dissimuler des instructions malveillantes dans un document qui est ensuite exploité par Copilot dans Word. Lorsque l'utilisateur modifie ce document, Copilot peut interpréter ces instructions comme faisant partie de la demande, menant à des manipulations non désirées. En fin de compte, cela permet à la menace d'être intégrée dans le document final, créant ainsi un nouveau vecteur de propagation.

Ce type d'attaque s'appuie sur une injection de données au format JSON, déclenchant une réaction en chaîne où le ver se reproduit à travers d'autres documents aidés par Copilot. Ce qui est encore plus troublant, c'est que l'attaquant n'a même pas besoin d'accès spécial; un simple partage de document malveillant suffit pour initier l'attaque.

Les implications pour la sécurité des utilisateurs

Ce n'est malheureusement pas un cas isolé. D'autres incidents similaires ont été rapportés dans le passé, où des systèmes d'IA ont provoqué des défaillances de sécurité. Par exemple, une responsable de la sécurité chez Meta a partagé une expérience désastreuse où un automatisme s'est mis à supprimer tous ses mails, un peu comme une scène de film d'horreur pour les amateurs de technologie.

Concernant cette vulnérabilité spécifique à Copilot, Måløy a averti Microsoft en mars, mais jusqu'à présent, aucune solution efficace n'a été mise en place. Deux tentatives de mitigation, y compris une mise à jour du modèle, n'ont pas suffi à éliminer ce genre de vulnérabilité. Cela souligne un aspect préoccupant: les utilisateurs doivent absolument être conscients des dangers potentiels liés à ces outils automatisés.

Comment se protéger contre ces attaques?

Pour éviter de devenir une victime de ce type d’attaque, des experts en cybersécurité comme ceux de Malwarebytes conseillent plusieurs mesures. La première est de désactiver Copilot dans les applications de traitement de texte. Si vous sentez que ces outils freinent votre travail plutôt que de l'améliorer, envisager de vous en passer totalement pourrait aussi être une solution judicieuse.

Måløy résume bien la situation en déclarant qu'« un système intégrant un modèle de langage dans un flux de travail de confiance doit toujours compter sur le fait que tout contenu contrôlé par un attaquant pouvant entrer dans le modèle pourrait entraîner une compromission ». La vigilance est donc de mise pour quiconque utilise des outils d'intelligence artificielle aujourd'hui.

Conclusion

La capacité des vers d'IA à se propager à travers des documents traités par Copilot soulève de sérieuses questions quant à la sécurité des outils d'intelligence artificielle. Les utilisateurs doivent impérativement garder un œil sur ce type de menace en constante évolution. Il est conseillé de rester informé des mises à jour de sécurité que Microsoft pourrait publier et de demeurer attentif à toute anomalie dans vos documents. À l'heure actuelle, une prudence accrue est la clé pour naviguer en toute sécurité dans ce nouvel espace technologique.