Des alertes sur le vol de travail: un dirigeant de Microsoft évoque les dangers des 'doom loops' de l'IA

Des révélations fracassantes viennent d'un procès majeur intenté par le New York Times contre OpenAI et Microsoft, alléguant que leurs modèles d'IA ont utilisé illégalement une quantité significative de contenu journalistique. Ce qui pourrait avoir des répercussions importantes sur l'avenir de l'Internet et de la création de contenu a été mis en lumière par des documents judiciaires récemment déclassifiés. Au sein de ces documents, un dirigeant de Microsoft a même qualifié cette dynamique de "plus grand vol de travail de l'histoire humaine," un terme qui appelle à réfléchir sur l'impact économique de l'IA sur la création de contenu.

Les impacts de l'IA sur la visibilité des médias

Brent Hecht, directeur de la science appliquée chez Microsoft, a exprimé lors d'une présentation interne que l'outil Copilot pourrait nuire à la performance des modèles de recherche et, par extension, à l'ensemble du web. Selon les informations internes, cette technologie a provoqué une chute des taux de clics sur les résultats de recherche du New York Times, avec des baisses allant de 87 % à 93 % par rapport aux recherches effectuées sur Bing. Des publications comme Eurogamer et IGN ont également observé des baisses entre 51 % et 94 %. Cette situation soulève des questions sérieuses sur la pérennité économique des médias face à une technologie qui accapare leur contenu sans compensation.

Un 'doom loop' dangereux pour l'économie numérique

Hecht décrit ce phénomène comme un "doom loop" où l'IA extrait la valeur économique des œuvres écrites pour fournir des réponses faciles, créant ainsi un cycle vicieux qui menace les fondations économiques des producteurs de contenu. Il souligne l'ironie d'une situation où l'outil qui devrait faciliter l'accès à l'information s'avère en réalité nuisible pour ses fournisseurs fondamentaux, précisant que la création de modèles linguistiques (LLM) repose sur une chaîne d'approvisionnement en contenu qui est aujourd'hui mise en péril.

L'utilisation douteuse d'informations protégées

Un autre aspect préoccupant des révélations concerne une discussion interne où un chercheur d'OpenAI a évoqué une méthode pour contourner le paywall du New York Times afin de faciliter le vol de contenu. Aux yeux de Microsoft et d'OpenAI, cette approche pourrait tomber sous le bénéfice du "fair use", mais cela soulève des interrogations éthiques et juridiques quant à la légitimité de l'utilisation d'informations payantes pour former des systèmes d'IA. Satya Nadella, le PDG de Microsoft, a admis en déposition que s'il avait su qu'OpenAI utilisait des contenus soumis à des droits pour entraîner ses modèles, il aurait exigé un retraitement de ceux-ci, mettant ainsi en lumière les conséquences potentielles sur la stratégie de formation des IA.

Conclusion

Le procès du New York Times contre OpenAI et Microsoft met en exergue des problématiques cruciales liées à l'utilisation de l'IA et à son impact sur l'industrie du contenu. Avec des dirigeants avertissant d'un possible effondrement de la création de contenu en ligne, les implications économiques sont immenses. Les joueurs et consommateurs de contenu doivent porter un regard critique sur l'évolution de cette technologie et son influence sur l'accès à l'information, car les enjeux sont clairement liés à la pérennité de l'écosystème numérique.