Les États-Unis viennent d'obliger Anthropic à désactiver ses meilleurs modèles en raison d'un jailbreak qu'elle ne croit pas exister

Le gouvernement américain a agi rapidement pour des raisons de sécurité nationale, en émettant une directive de contrôle des exportations qui oblige Anthropic à couper tout accès à ses modèles de pointe Fable 5 et Mythos 5 à tout ressortissant étranger, y compris les employés nés à l'étranger de l'entreprise, qu'ils soient dans le pays ou à l'étranger. L'ordre est arrivé à 17 h 21, heure de l'Est, et a pris effet immédiatement, ne laissant à Anthropic d'autre choix que de désactiver les deux modèles pour tous les clients afin de rester dans la légalité. Les autres modèles d'Anthropic ne sont pas concernés. anthropic-launches-claude-sonnet-5-a-new-frontier-in-agentic-ai-at-lower-cost

Préoccupation du gouvernement en matière de sécurité nationale

La directive, délivrée par lettre, n'offrait aucun détail sur la menace sous-jacente. Dans son propre récit, Anthropic affirme que le gouvernement estime avoir trouvé une méthode pour contourner, ou « jailbreak », Fable 5. L'entreprise a examiné une démonstration de la technique et a conclu qu'elle n'exposait qu'une poignée de vulnérabilités mineures, connues auparavant. Anthropic soutient que ces défauts sont relativement simples et que d'autres modèles disponibles publiquement peuvent les trouver sans aucun jailbreak du tout. navigating-the-edge-new-framework-promises-safer-ai-deployment-in-critical-systems

Approche de défense en profondeur d'Anthropic

Dans son article de blog de lancement, Anthropic a exposé une stratégie de sécurité multicouche pour Fable 5. L'entreprise a déclaré avoir construit de solides garde-fous qui réduisent considérablement les risques d'utilisation abusive, en particulier pour les tâches liées à la cybersécurité, au point que de nombreux utilisateurs se sont plaints qu'ils étaient trop restrictifs. Avant le lancement, Anthropic a travaillé avec le gouvernement américain, l'Institut britannique de sécurité de l'IA, plusieurs groupes externes et ses propres équipes internes sur des milliers d'heures de tests d'intrusion (« red-teaming »).

Les tests ont indiqué que les garde-fous de Fable sont nettement plus efficaces que ceux de tout modèle précédent. Aucun testeur n'a encore trouvé de jailbreak universel, c'est-à-dire une technique qui contournerait largement les protections du modèle et débloquerait un large éventail de capacités cybernétiques. Néanmoins, Anthropic a reconnu qu'une résistance parfaite au jailbreak est hors de portée pour tout fournisseur aujourd'hui, et que tous les garde-fous de l'industrie restent vulnérables aux jailbreaks non universels qui peuvent, dans des conditions spécifiques, extraire certaines informations cybernétiques.

« Étant donné qu'une résistance parfaite au jailbreak ne semble pas possible aujourd'hui, Anthropic a adopté une stratégie de défense en profondeur avec Fable 5 », a déclaré l'entreprise. « Nous avons cherché à rendre les jailbreaks soit étroits (dans le cas des jailbreaks non universels), soit très coûteux à produire (dans le cas des jailbreaks universels), et à combiner cela avec une surveillance approfondie pour détecter rapidement et stopper toute attaque réussie. » Cette stratégie comprenait également une politique de conservation de 30 jours pour les données clients de Fable, un changement qui entraîne des coûts réels, selon l'entreprise, mais permet la recherche sur les jailbreaks et des atténuations plus rapides. the-subtle-trap-waiting-for-ai-agents-in-production

Contestation du fondement de la directive

Anthropic est en profond désaccord avec la décision du gouvernement. L'entreprise affirme que, jusqu'à présent, les responsables n'ont offert que des preuves verbales d'un potentiel jailbreak étroit et non universel, demandant essentiellement au modèle de lire une base de code spécifique et de corriger des bugs logiciels. Anthropic a examiné un rapport qu'elle estime sous-tendre la directive et a constaté que le niveau de capacité démontré est largement disponible à partir d'autres modèles, y compris le GPT-5.5 d'OpenAI, et est utilisé chaque jour par les défenseurs pour maintenir les systèmes en sécurité. openais-gpt-56-launch-rewrites-the-economics-of-frontier-ai

« Nous nous conformons à la directive légale du gouvernement et supprimons l'accès à Fable 5 et Mythos 5 pour tous les utilisateurs. Cependant, nous ne sommes pas d'accord sur le fait que la découverte d'un potentiel jailbreak étroit devrait être une raison pour rappeler un modèle commercial déployé auprès de centaines de millions de personnes », a déclaré Anthropic. « Si cette norme était appliquée dans toute l'industrie, nous pensons qu'elle stopperait essentiellement tous les nouveaux déploiements de modèles pour tous les fournisseurs de modèles de pointe. »

Anthropic a réitéré sa position selon laquelle le gouvernement devrait avoir le pouvoir de bloquer les déploiements dangereux, mais seulement dans le cadre d'un processus légal qui soit transparent, équitable, clair et fondé sur des faits techniques. « Cette action ne respecte pas ces principes », a déclaré l'entreprise. anthropic-public-record-survey-reveals-widespread-bipartisan-fear-of-ai-job-loss-and-demand-for-government-regulation

Impact et prochaines étapes

Anthropic s'est excusée auprès des clients pour la perturbation et a déclaré espérer que la situation s'avère être un malentendu. L'entreprise travaille à rétablir l'accès aussi rapidement que possible. La directive marque un nouveau point de tension dans la tension croissante entre les impératifs de sécurité nationale et le rythme effréné du déploiement de l'IA de pointe, et soulève de nouvelles questions sur les critères que le gouvernement devrait utiliser lorsqu'il décide d'intervenir.