EE. UU. acaba de obligar a Anthropic a desactivar sus mejores modelos por un jailbreak que la empresa afirma no existe

El gobierno de EE. UU. actuó rápidamente por motivos de seguridad nacional, emitiendo una directiva de control de exportaciones que obliga a Anthropic a cortar todo acceso a sus modelos fronterizos Fable 5 y Mythos 5 para cualquier nacional extranjero, incluidos los propios empleados extranjeros de la empresa, ya sea que estén en el país o en el extranjero. La orden llegó a las 5:21 p. m., hora del este, y entró en vigor de inmediato, dejando a Anthropic pocas opciones más que deshabilitar ambos modelos para todos los clientes para cumplir con la ley. Otros modelos de Anthropic no se ven afectados. anthropic-launches-claude-sonnet-5-a-new-frontier-in-agentic-ai-at-lower-cost

Preocupación de seguridad nacional del gobierno

La directiva, entregada por carta, no ofreció detalles sobre la amenaza subyacente. En su propio relato, Anthropic dice que el gobierno cree haber encontrado un método para eludir, o "jailbreak", Fable 5. La empresa revisó una demostración de la técnica y concluyó que solo exponía un puñado de vulnerabilidades menores previamente conocidas. Anthropic argumenta que estas fallas son relativamente simples y que otros modelos disponibles públicamente pueden encontrarlas sin necesidad de ningún jailbreak. navigating-the-edge-new-framework-promises-safer-ai-deployment-in-critical-systems

Enfoque de defensa en profundidad de Anthropic

En su publicación de blog de lanzamiento, Anthropic delineó una estrategia de seguridad de múltiples capas para Fable 5. La empresa dijo que construyó salvaguardas sólidas que reducen drásticamente las probabilidades de uso indebido, especialmente para tareas relacionadas con la ciberseguridad, tanto que muchos usuarios se han quejado de que son demasiado restrictivas. Antes del lanzamiento, Anthropic trabajó con el gobierno de EE. UU., el Instituto de Seguridad de IA del Reino Unido, varios grupos externos y sus propios equipos internos en miles de horas de red-teaming.

Las pruebas indicaron que las salvaguardas de Fable son sustancialmente más efectivas que las de cualquier modelo anterior. Ningún evaluador ha encontrado aún un jailbreak universal, una técnica que eludiría ampliamente las protecciones del modelo y desbloquearía una amplia gama de capacidades cibernéticas. Aún así, Anthropic reconoció que la resistencia perfecta a jailbreaks está fuera del alcance de cualquier proveedor hoy en día, y que todas las salvaguardas de la industria siguen siendo vulnerables a jailbreaks no universales que pueden, bajo condiciones específicas, extraer cierta información cibernética.

“Dado que la resistencia perfecta a jailbreaks no parece ser posible hoy en día, Anthropic adoptó una estrategia de defensa en profundidad con Fable 5”, declaró la empresa. “Nuestro objetivo era hacer que los jailbreaks fueran estrechos (en el caso de jailbreaks no universales) o muy costosos de producir (en el caso de jailbreaks universales), y combinar esto con una monitorización exhaustiva para detectar y detener rápidamente cualquier ataque exitoso”. Esa estrategia también incluyó una política de retención de 30 días para los datos de los clientes de Fable, un cambio que conlleva costos reales, dice la empresa, pero que permite investigar jailbreaks y acelerar las mitigaciones. the-subtle-trap-waiting-for-ai-agents-in-production

Disputa sobre la base de la directiva

Anthropic discrepa firmemente con la medida del gobierno. La empresa dice que, hasta ahora, los funcionarios solo han ofrecido evidencia verbal de un posible jailbreak no universal y limitado, esencialmente pidiéndole al modelo que lea un código base específico y corrija errores de software. Anthropic revisó un informe que cree que sustenta la directiva y encontró que el nivel de capacidad mostrado está ampliamente disponible en otros modelos, incluido GPT-5.5 de OpenAI, y es utilizado todos los días por defensores que mantienen seguros los sistemas. openais-gpt-56-launch-rewrites-the-economics-of-frontier-ai

“Estamos cumpliendo con la directiva legal del gobierno y estamos eliminando el acceso a Fable 5 y Mythos 5 para todos los usuarios. Sin embargo, no estamos de acuerdo en que el hallazgo de un potencial jailbreak limitado deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas”, dijo Anthropic. “Si este estándar se aplicara en toda la industria, creemos que esencialmente detendría todas las nuevas implementaciones de modelos para todos los proveedores de modelos fronterizos”.

Anthropic reiteró su posición de que el gobierno debería tener el poder de bloquear implementaciones inseguras, pero solo como parte de un proceso estatutario que sea transparente, justo, claro y basado en hechos técnicos. “Esta acción no se adhiere a esos principios”, dijo la empresa. anthropic-public-record-survey-reveals-widespread-bipartisan-fear-of-ai-job-loss-and-demand-for-government-regulation

Impacto y próximos pasos

Anthropic se disculpó con los clientes por la interrupción y dijo que espera que la situación resulte ser un malentendido. La empresa está trabajando para restaurar el acceso lo más rápido posible. La directiva marca otro punto de conflicto en la creciente tensión entre los imperativos de seguridad nacional y el ritmo vertiginoso de la implementación de la IA fronteriza, y plantea nuevas preguntas sobre qué criterios debe usar el gobierno cuando decide intervenir.