Anthropic et sa loi sur l'IA : pourquoi le seuil de 50 victimes fait débat

Une intelligence artificielle ne pourrait être bloquée par les autorités américaines qu'en présence d'un risque particulièrement grave : plus de 50 morts ou blessés graves, ou plus d'un milliard de dollars de dégâts. C'est le seuil spectaculaire envisagé dans un projet de loi qu'Anthropic, l'entreprise derrière Claude, aurait présenté à des parlementaires américains. Attention : ce texte n'est pas une loi adoptée, et ses dispositions ne sont pas applicables à ce jour.

50 victimes ou un milliard de dollars : ce que prévoit le projet

Selon des informations révélées le 16 octobre 2026, les représentants d'Anthropic ont soumis aux législateurs de Washington un projet visant les modèles d'IA dits « de frontière », c'est-à-dire les systèmes les plus avancés. Le dispositif ne permettrait de suspendre leur diffusion ou leur utilisation qu'en cas de risque prévisible et imminent dépassant l'un des deux seuils : la mort ou les blessures graves de plus de 50 personnes, ou plus d'un milliard de dollars de dommages.

Ces chiffres ne décrivent donc ni une catastrophe déjà survenue ni un quota de victimes acceptable. Il s'agit de critères de gravité proposés pour autoriser une intervention exceptionnelle. La distinction compte : un modèle dangereux en théorie ne remplirait pas automatiquement les conditions permettant à l'État d'en bloquer le déploiement.

Armes biologiques, cyberattaques et perte de contrôle

Le champ de la mesure serait également limité à certaines menaces : la création ou la diffusion d'une arme biologique, une cyberattaque, ou encore le cas d'un modèle échappant aux mécanismes de contrôle de son concepteur. On parle ici de scénarios extrêmes, pas de chaque erreur d'un chatbot, d'une hallucination ou d'un contenu trompeur.

Le choix de ces catégories illustre la difficulté du débat : comment permettre aux laboratoires de poursuivre leurs recherches tout en gardant une possibilité d'arrêt lorsque les conséquences potentielles deviennent majeures ? Un seuil aussi élevé risque de rassurer les développeurs face à des interventions trop larges, mais soulève aussi une question évidente : que faire lorsqu'un risque sérieux reste en dessous des limites chiffrées ?

Des audits indépendants et une alerte sous 72 heures

Dans ce projet, des évaluateurs indépendants enregistrés auprès du département américain du Commerce examineraient périodiquement les laboratoires et leurs modèles les plus avancés. Les entreprises pourraient rémunérer ces évaluateurs, à condition que leur paiement ne dépende pas de la conclusion de l'audit.

Si l'évaluation constatait un risque imminent correspondant aux catégories définies par le texte, l'évaluateur devrait le signaler au département du Commerce dans les 72 heures après la fin de son examen. Cette nuance est importante : le délai annoncé ne signifie pas que chaque incident serait automatiquement détecté ou résolu sous trois jours.

Le gouvernement ne pourrait pas arrêter librement une IA

Autre point majeur : le projet encadrerait strictement les pouvoirs publics. Le département du Commerce pourrait demander à un juge fédéral de Washington de suspendre un modèle s'il estime les conditions réunies. Le texte rapporté écarterait en revanche la possibilité, pour d'autres administrations fédérales, de suspendre elles-mêmes le développement, le déploiement ou l'utilisation interne d'un système dans le cadre prévu.

Ce mécanisme ferait d'une décision judiciaire une étape centrale de l'intervention. Il ne faut toutefois pas en déduire que tous les autres pouvoirs ou toutes les lois de sécurité existantes seraient abrogés : la portée exacte dépendrait du texte final et de son articulation avec le droit américain.

Pourquoi cette proposition fait débat

Anthropic défend depuis plusieurs années une approche de sécurité graduée, fondée sur l'évaluation des capacités et l'adaptation des protections au niveau de risque. Sa Responsible Scaling Policy officielle développe cet objectif, sans constituer pour autant le texte législatif évoqué ici.

Le paradoxe est saisissant : une entreprise connue pour son discours sur la prudence propose, d'après les informations rapportées, un seuil d'intervention gouvernementale extrêmement exigeant. Les partisans d'une réglementation ciblée pourront y voir une manière d'éviter les décisions arbitraires. Ses détracteurs pourront se demander si attendre un risque imminent d'une telle ampleur laisse assez de marge pour prévenir des dommages moins spectaculaires, mais réels.

Pour comprendre les autres débats autour de l'entreprise, notre article sur l'évolution de la politique de sécurité d'Anthropic revient sur ses engagements, tandis que les incidents de cybersécurité associés à ses agents illustrent pourquoi la surveillance des systèmes autonomes inquiète.

Ce qui reste à confirmer

Au 18 octobre 2026, nous parlons d'un projet de texte rapporté par la presse, et non d'une loi votée, signée ou entrée en vigueur. Sa version définitive, son éventuel dépôt formel au Congrès, les débats parlementaires et une possible adoption restent à confirmer. Aucun calendrier d'entrée en application n'a été établi dans les informations disponibles. Il serait donc trompeur d'affirmer que le gouvernement américain doit désormais attendre 50 victimes pour agir.

Au-delà des chiffres, l'enjeu est de savoir qui juge un modèle d'IA suffisamment risqué pour le freiner : ses développeurs, des auditeurs externes, une administration ou un tribunal. C'est cette répartition des responsabilités, plus encore que le seuil d'un milliard de dollars, qui pourrait façonner la prochaine étape de la régulation américaine des IA avancées.