Anthropic propose un projet de loi :
bloquer une IA si risque de plus de 50 morts ou 1 milliard de dollars
Les chiffres ont suffi à faire le tour des réseaux : 50 morts, un milliard de dollars. Lus seuls, ils donnent l’impression qu’une IA pourrait être autorisée tant qu’elle tue moins de 50 personnes. Le texte décrit en réalité autre chose : le niveau à partir duquel un mécanisme d’urgence, passant par un juge, pourrait être déclenché pour stopper un modèle. Ce que contient le projet, pourquoi ses seuils font débat, et ce qu’il change, ou non, pour une entreprise française.
Que prévoit le projet de loi d’Anthropic ?
Un mécanisme d’arrêt d’urgence, réservé à des risques catastrophiques bien définis.
Selon Politico, repris par TechCrunch et Cybernews, le projet définirait les conditions dans lesquelles le gouvernement américain pourrait obtenir l’arrêt de la diffusion ou de l’utilisation d’un modèle d’IA avancé.
La condition centrale est un risque « imminent et prévisible » de l’un de ces deux dommages : la mort ou des blessures graves pour plus de 50 personnes, ou plus d’un milliard de dollars de dommages matériels.
Ce risque ne peut pas venir de n’importe où. Il doit découler de l’une de trois situations listées dans le texte :
Une arme biologique, dont le modèle faciliterait la création ou la diffusion.
Une perte de contrôle, si le modèle contourne les contrôles mis en place par son développeur.
Une cyberattaque rendue possible par le modèle.
En dehors de ces trois cas, et en dessous de ces seuils, le mécanisme décrit ne s’applique pas.
Qui déciderait de bloquer un modèle ?
Un juge fédéral, saisi par le département du Commerce, après l’alerte d’évaluateurs indépendants.
1. Les évaluateurs. Des évaluateurs indépendants, enregistrés auprès du département du Commerce américain, examineraient régulièrement les laboratoires et leurs modèles les plus avancés. Ils pourraient être payés par les entreprises d’IA, à condition que leur rémunération ne dépende pas des conclusions de l’évaluation.
2. L’alerte. S’ils identifient un risque catastrophique imminent, ils disposeraient de 72 heures pour prévenir le département du Commerce.
3. Le juge. Le Commerce devrait alors demander à un juge de Washington d’ordonner l’arrêt de la diffusion du modèle. C’est le juge qui trancherait.
Le texte interdirait explicitement à une agence fédérale de suspendre seule la distribution d’un modèle. Le passage par un tribunal est donc la clé du dispositif : l’administration ne pourrait pas couper un modèle de sa propre initiative.
Ce projet est-il déjà une loi ?
Non. Il s’agit d’un brouillon qu’Anthropic présente à des élus.
Politico a révélé le texte le 16 octobre 2026, en s’appuyant sur des personnes au fait du dossier. Un porte-parole d’Anthropic a confirmé l’existence du brouillon, en expliquant qu’il traduit les propositions du cadre publié par l’entreprise sur l’IA avancée, et que celle-ci les défend auprès des élus fédéraux et des États depuis juin.
Aucune source ne fait état d’un dépôt officiel au Congrès, d’un parrainage par un élu ou d’un vote. Le texte circule ; il ne s’applique pas.
Écrire que « l’IA sera bloquée à partir de 50 morts » est donc inexact. Le projet prévoit une possibilité de demande judiciaire, dans des cas précis, si un risque imminent est identifié. Et il n’a, à ce stade, aucune valeur juridique.
Pourquoi ces seuils font-ils débat ?
Parce qu’ils sont élevés, et parce qu’ils sont proposés par une entreprise du secteur.
Le niveau des seuils. Cybernews résume la critique la plus partagée : selon ce texte, le risque d’une arme biologique faisant moins de 50 victimes ne déclencherait pas ce mécanisme. Le seuil ne signifie pas que tout risque inférieur serait autorisé, mais que la voie judiciaire d’urgence ne serait pas prévue en dessous.
Les risques retenus. TechCrunch note que les scénarios visés, armes biologiques ou pertes humaines massives, sont assez éloignés des incidents qui préoccupent aujourd’hui le plus le secteur, comme les attaques informatiques menées par des agents IA.
Qui fixe les règles. Heidy Khlaaf, chercheuse à l’AI Now Institute, qualifie la proposition d’« autocratique » : elle reproche aux entreprises de définir elles-mêmes les seuils et d’écarter les préjudices déjà causés par l’IA. Le patron de Mistral AI, Arthur Mensch, accuse plus largement les entreprises américaines d’utiliser les scénarios catastrophes pour verrouiller le marché.
Qui paie les évaluateurs. Même si la rémunération ne doit pas dépendre des conclusions, le fait que les laboratoires financent leurs propres évaluateurs pose une question d’indépendance, relevée par TechCrunch.
Comment ce projet s’inscrit-il dans le débat américain ?
Entre l’absence de loi fédérale et des règles déjà votées en Californie.
À ce jour, aucune loi fédérale américaine n’encadre spécifiquement les modèles d’IA les plus puissants, selon les sources disponibles. Les entreprises du secteur ont longtemps privilégié l’autorégulation, avec des évaluateurs internes ou choisis par elles.
Les seuils retenus par Anthropic ne sortent pas de nulle part : TechCrunch rappelle que la loi californienne SB 53, adoptée récemment, utilise des ordres de grandeur similaires, 50 personnes et un milliard de dollars, pour définir un « risque catastrophique ».
Selon TechCrunch, la proposition d’Anthropic va plus loin que d’autres acteurs. Le patron de Nvidia, Jensen Huang, estime qu’aucune nouvelle loi n’est nécessaire. Demis Hassabis, à la tête de Google DeepMind, a évoqué un organisme d’autorégulation inspiré de la régulation financière.
En Europe, le cadre est différent : le règlement européen sur l’IA, l’AI Act, s’applique déjà par étapes et impose ses propres obligations aux fournisseurs de modèles. Le projet américain n’y change rien.
Qu’est-ce que cela change pour une entreprise qui utilise l’IA ?
Rien aujourd’hui, et rien pour les usages courants.
Les outils. Utiliser Claude, ChatGPT ou un autre assistant ne change pas. Le projet n’est pas une loi, et il vise des risques catastrophiques, pas la rédaction d’un e-mail ou la création d’une image.
La France. Le texte est américain. Il ne crée aucune obligation pour une entreprise française. Votre cadre de référence reste le RGPD et l’AI Act.
Les prestataires. Une promesse du type « grâce à cette loi, votre IA est sécurisée » repose sur un texte qui n’existe pas. Demandez ce qui est réellement en vigueur.
Les vrais risques du quotidien. Un seuil de 50 morts ne protège pas un fichier client mal partagé. Les questions utiles restent les mêmes : qui a accès aux outils, quelles données y sont saisies, qui relit les contenus produits.
La veille. Le sujet mérite d’être suivi : les acteurs de l’IA proposent eux-mêmes les règles qui pourraient s’appliquer à eux. Mais on ne modifie ni un contrat ni une politique interne sur la base d’un projet rapporté par la presse.
Questions fréquentes
Est-ce une loi ?
Non. C’est un projet qu’Anthropic présente à des élus américains, révélé par Politico. Il n’a été ni déposé officiellement ni voté selon les sources disponibles.
Que signifie le seuil de 50 morts ?
C’est le niveau de risque imminent, avec un milliard de dollars de dommages en alternative, à partir duquel une demande de suspension pourrait être portée devant un juge.
Quels risques sont concernés ?
Trois situations : une arme biologique, un modèle qui échappe au contrôle de son développeur, ou une cyberattaque.
Qui déciderait du blocage ?
Des évaluateurs signaleraient le risque au département du Commerce sous 72 heures, qui saisirait un juge à Washington. Le juge déciderait.
Les évaluateurs seraient-ils indépendants ?
Ils seraient enregistrés auprès du Commerce et pourraient être payés par les laboratoires, à condition que le paiement ne dépende pas des conclusions. Ce point est critiqué.
Cela concerne-t-il mon entreprise ?
Non. Le projet est américain, non adopté, et vise des risques catastrophiques. En France, le cadre reste le RGPD et l’AI Act.
- TechCrunch — Anthropic pitches AI safety bill that may block a model if 50 people could be killed, 20 octobre 2026.
- Cybernews — AI must threaten to kill over 50 people for government to intervene, Anthropic proposes, 19 octobre 2026.
- 01net — 50 morts : Anthropic veut réglementer l’IA, 20 octobre 2026.
WY-Créations accompagne depuis 2018 les artisans, les TPE, les PME et les professions libérales dans leur référencement sur Google, leur présence dans les réponses des IA et leur e-réputation.
Suivre la régulation de l’IA sans céder aux titres.
Usage des outils d’IA, données, contenus, visibilité sur Google et dans les réponses des IA : WY-Créations aide les entreprises à s’appuyer sur ce qui est réellement en vigueur.