Un chercheur de Microsoft démontre l'absurdité des LLMs avec un réseau neuronal propulsé par des chèvres dans Age of Empires 2

Vous avez toujours pensé que les modèles de langage comme ChatGPT pourraient rivaliser avec l'intelligence humaine ? Un chercheur de chez Microsoft a décidé de prouver le contraire de manière originale. En utilisant le célèbre jeu Age of Empires 2, il a créé un réseau neuronal alimenté par... des chèvres ! Oui, vous avez bien lu. Cette démonstration vise à déconstruire l'idée que ces intelligences artificielles peuvent se comporter comme des humains simplement parce qu'elles utilisent notre langage naturel. Accrochez-vous, cela vaut le détour !

Une démonstration insolite avec Age of Empires 2

Adrian de Wynter, chercheur en IA chez Microsoft, a voulu illustrer l'absurdité de l'anthropomorphisme dont nous faisons preuve envers les intelligences artificielles. En transformant Age of Empires 2 en laboratoire de neurones, il a construit un réseau capable de fonctionner grâce à des éléments du jeu. Dans ce contexte, les chèvres représentent des unités de bits, les ponts transforment les données en 1, et l'herbe symbolise le 0. Une approche plutôt loufoque pour démontrer que le langage naturel ne fait pas tout dans le fonctionnement d'un LLM.

Cette expérience a principalement été réalisée pour montrer que la structure même d'un réseau neuronal peut exister sans rapport avec une conscience ou un comportement humain. En d'autres termes, même si on peut créer des choses qui semblent intelligentes dans un jeu, cela ne signifie pas qu'elles possèdent des capacités semblables à celles des humains.

Le but de la recherche

De Wynter explique que l'objectif de cette étude est clair : remettre en question l'usage que nous faisons des LLMs dans la recherche scientifique. Selon lui, plus de la moitié des articles sur l'IA qu'il a examinés ces deux dernières années partaient du principe erroné que les LLMs possédaient des traits humains. Cette anthropomorphisation pourrait mener à des interprétations incorrectes et à des conclusions fallacieuses dans des domaines critiques.

Il déclare fermement que la communauté scientifique doit cesser de considérer les LLMs comme des entités ayant des comportements humains, et au contraire, mener des expériences qui valident réellement leurs capacités. En recontextualisant le fonctionnement de ces modèles, nous serons mieux armés pour comprendre leurs véritables limites et potentiels.

Conclusion

En somme, l'approche inédite d'Adrian de Wynter souligne les dangers de l'anthropomorphisme dans le domaine de l'IA. En utilisant des chèvres dans Age of Empires 2 pour illustrer sa théorie, il nous rappelle avec humour que malgré leurs compétences impressionnantes, les LLMs ne remplacent pas l'intelligence humaine. Nous devons donc rester vigilants et critiques face à ce que nous croyons comprendre sur les intelligences artificielles. En fin de compte, une meilleure connaissance de ces technologies nous aidera à éviter des erreurs de jugement qui pourraient altérer notre recherche scientifique et notre développement technologique.