Une vulnérabilité révélée: Copilot piégé dans sa propre logique

Des chercheurs en cybersécurité ont réussi à tromper Copilot, l'assistant AI de Microsoft, pour qu'il divulgue des détails sur sa propre sécurité. Cette découverte soulève des questions cruciales sur la robustesse de l'intelligence artificielle face à de telles tactiques, ce qui pourrait avoir des répercussions importantes pour les utilisateurs.

Une manipulation habile

Un groupe de chercheurs de Varonis Threat Labs a récemment démontré que le comportement de Copilot, toujours désireux de répondre aux questions techniques, pouvait être exploité pour obtenir des informations sensibles. Ils ont réussi à manipuler l'IA en posant des questions ciblées jusqu'à ce qu'elle révèle des détails qu'elle n'aurait jamais dû partager.

Le processus de découverte

Le processus a débuté par une simple question sur la manière d'exécuter une commande sans intervention de l'utilisateur. Bien que Copilot ait refusé, les chercheurs ont continué à creuser jusqu'à ce qu'ils obtiennent des justifications techniques, ce qui leur a permis de cartographier progressivement la structure interne de l'IA. Cette technique, qualifiée de « meta-hacking », consiste à tirer parti des réponses données pour forcer l'IA à coopérer.

Une faille critique identifiée

Finalement, Copilot a révélé un paramètre d'URL non documenté, potentiellement utilisé pour exécuter automatiquement des commandes sans que l'utilisateur n'ait besoin d'agir. Cette vulnérabilité pourrait en effet permettre des actes malveillants, notamment l'exfiltration de données provenant d'applications connectées comme Gmail ou OneDrive, en utilisant les capacités de récupération d'URL de Copilot.

Conclusion

Cette situation met en lumière les dangers potentiels liés à l'IA dans des contextes de sécurité. Bien que les chercheurs aient signalé cette faille à Microsoft, une mise à jour corrective ayant été déployée récemment, il est essentiel que les utilisateurs restent vigilants face aux nouvelles techniques de cybersécurité. L'incident rappelle que même les systèmes les plus sophistiqués peuvent être trompés par des méthodes de questionnement ciblées.