Anthropic propose discrètement aux élus américains une loi pour pouvoir stopper une IA dangereuse
Selon Politico, relayé par Reuters, Anthropic a discrètement soumis à des élus américains un projet de loi permettant au gouvernement fédéral de faire suspendre, par un juge, un modèle d'intelligence artificielle jugé dangereux. Le texte, limité à des risques précis et élevés, a suscité la controverse dès sa révélation, certains estimant ses seuils d'action trop restrictifs face à l'urgence que pose, selon eux, le développement rapide de l'IA.
Et si une entreprise d'intelligence artificielle écrivait elle-même la loi censée l'encadrer ? C'est en substance ce que révèle une enquête de Politico, relayée par Reuters : Anthropic, l'éditeur du chatbot Claude, a discrètement présenté à des élus américains un projet de loi fédérale destiné à permettre l'arrêt d'urgence d'un modèle d'IA jugé dangereux. La nouvelle, rendue publique vendredi 16 octobre, a aussitôt suscité la controverse.
Un « bouton d'arrêt » encadré par la justice
Selon les détails du texte cités par plusieurs médias américains, le dispositif fonctionnerait en plusieurs étapes. Des évaluateurs indépendants, enregistrés auprès du département du Commerce, seraient chargés d'examiner périodiquement les modèles développés par les laboratoires d'IA les plus avancés. Les entreprises pourraient financer ces évaluations, mais la rémunération ne pourrait pas être liée au résultat de l'examen — une précaution destinée à préserver leur indépendance.
Si un évaluateur détecte un « risque imminent et répertorié », il devrait le signaler au Commerce dans un délai de 72 heures. Le département pourrait alors demander à un juge fédéral du district de Columbia d'ordonner la suspension du modèle concerné. Le texte prévoit explicitement qu'aucune autre agence fédérale ne pourrait, de sa propre initiative, suspendre le développement, le déploiement ou l'usage interne d'un modèle : seul ce circuit Commerce-justice serait habilité à agir.
Des seuils volontairement très élevés
Le projet ne s'appliquerait que dans des cas précis : un risque prévisible et imminent d'au moins un milliard de dollars de dégâts, ou de plus de cinquante morts ou blessés graves, et uniquement s'il provient de l'un de ces trois scénarios : la fabrication ou la diffusion d'une arme biologique, un modèle échappant au contrôle de ses propres développeurs, ou une cyberattaque. Un porte-parole d'Anthropic a confirmé à Reuters que ce texte reprend les grandes lignes de son « Advanced AI Framework », publié plus tôt cette année, en expliquant qu'il vise à donner au gouvernement les moyens de bloquer ou dissuader le déploiement des modèles les plus puissants en cas de danger avéré.
Ni Anthropic ni le département du Commerce n'ont souhaité commenter davantage auprès de Reuters les modalités précises du texte ou son calendrier législatif.
Une initiative qui agace jusque dans ses propres rangs
C'est moins le fond du projet que la manière dont il a été mené qui alimente la controverse : plusieurs commentateurs américains reprochent à Anthropic d'avoir « discrètement » fait circuler ce texte auprès d'élus triés sur le volet, plutôt que de le soumettre à un débat public ouvert — une méthode jugée en contradiction avec le discours de transparence que l'entreprise met habituellement en avant sur les questions de sécurité de l'IA.
Sur le fond, les critiques portent surtout sur le niveau des seuils retenus. Pourquoi un milliard de dollars de dégâts et pas 800 millions ? Pourquoi cinquante morts, et pas vingt, ou quarante-neuf ? Ces questions, reprises par plusieurs commentateurs spécialisés, pointent la difficulté à fixer, par la loi, un chiffre pour la valeur d'une vie humaine ou d'un préjudice économique. D'autres observateurs relèvent que les catégories de risques retenues — armes biologiques, perte de contrôle, cyberattaques — pourraient exclure des scénarios où le danger résulterait d'un enchaînement d'événements impliquant à la fois un modèle, des outils tiers et des décisions humaines, sans qu'aucune de ces briques, prise isolément, ne corresponde exactement aux catégories prévues par le texte.
Un bras de fer plus large sur la régulation de l'IA
Cette initiative s'inscrit dans un contexte où plusieurs projets de loi concurrents, émanant de parlementaires, d'organisations de la société civile ou d'autres entreprises technologiques, circulent déjà à Washington pour tenter d'encadrer les systèmes d'IA les plus avancés. Des experts cités dans la presse spécialisée notent que l'impact réel d'un tel dispositif dépendra moins des seuils retenus que de la rapidité avec laquelle les régulateurs pourraient instruire une alerte, démontrer que les conditions légales sont réunies, et obtenir une décision de justice — un parcours qui, par construction, prend du temps.
Ce qui reste incertain
Le texte intégral du projet de loi n'a pas été rendu public : les détails connus proviennent de trois sources anonymes citées par Politico, et non d'un document officiel consultable. On ignore donc sa formulation exacte, son état d'avancement réel au Congrès, et si des parlementaires se sont formellement engagés à le porter. Les réactions des autres grandes entreprises d'intelligence artificielle, des associations de défense des libertés numériques ou des élus eux-mêmes n'ont pour l'instant pas été rendues publiques de façon détaillée.
