Su modelo de IA dice que puede leer 1 millón de tokens. Miente. Aquí están las matemáticas reales.

Cuatro LLMs de frontera ahora anuncian ventanas de contexto de más de 1 millón de tokens. El número destacado está resuelto. Lo que aún difiere considerablemente es cuánto de esa ventana puede usar realmente el modelo en la práctica, el contexto efectivo, cuánto puede escribir en una sola llamada (límite de salida) y cuánto cuesta ejecutarlo en longitud. Esta publicación compara Gemini 3.1 Pro, GPT-5.5, Claude Opus 4.7 Adaptive y DeepSeek V4 Pro en los tres ejes, utilizando las cifras en vivo de abril de 2026, no las del trimestre pasado. why-minimaxs-large-language-model-couldnt-say-ma-jiaqi-a-technical-deep-dive-into-sparse-token-forgetting

TL;DR

• Gemini 3.1 Pro Puntuaciones de contexto efectivo más sólidas a 500K, 1M, pero los precios escalonados penalizan el uso por encima de 200K.
• GPT-5.5 Puntuaciones más altas en LongBench v2 y MRCRv2; 128K de salida es suficiente para la mayoría de la generación, pero no para todo.
• Claude Opus 4.7 Adaptive Punto óptimo interactivo de contexto medio; el almacenamiento en caché de solicitudes del 90% es la verdadera palanca de costos.
• DeepSeek V4 Pro El único modelo con un límite de salida de 384K; entrada/salida más barata por un amplio margen; los aciertos de caché reducen la entrada a $0.145/M.

La ventana destacada

Una ventana de 1 millón de tokens ahora es el estándar mínimo entre la frontera. Los cuatro buques insignia anuncian efectivamente el mismo límite de entrada, por lo que el número destacado deja de ser un diferenciador. Las diferencias interesantes residen en la capacidad de salida, los precios y la mecánica de almacenamiento en caché. ai2-releases-olmo-eval-an-open-evaluation-workbench-for-active-llm-development

Límite de salida: la brecha de 6 veces

La salida máxima de 384K de DeepSeek V4 Pro es 3, 6 veces mayor que la de sus pares. Gemini y Opus tienen un tope de 64K, GPT-5.5 de 128K. Para flujos de trabajo que generan artefactos largos en una sola llamada, borradores completos de informes, traducciones grandes de código, reescrituras por lotes de documentos, 384K es una ventaja estructural que ninguna cantidad de contexto del lado de la solicitud puede solucionar. the-verification-horizon-why-rewarding-coding-agents-is-getting-harder

Niveles de precios y almacenamiento en caché

Gemini 3.1 Pro cobra $2.00/M hasta 200K tokens de entrada y $4.00/M por encima, el único modelo con un precio de entrada dependiente de la posición de la ventana. GPT-5.5 lista $5.00/M con almacenamiento en caché de solicitudes y Batch API aproximadamente con un 50% de descuento. Claude Opus 4.7 Adaptive lista $5.00/M pero ofrece hasta un 90% de descuento en aciertos de caché de solicitudes, lo que sitúa la entrada efectiva cerca de $0.50/M. DeepSeek V4 Pro lista $1.74/M con aciertos de caché a $0.145/M, aproximadamente un 92% de descuento, la tasa de caché anunciada más barata en la frontera hoy en día. tcs-and-anthropic-partner-to-bring-claude-to-regulated-industries

Contexto efectivo: donde los benchmarks son escasos

La superficie de evaluación pública se ha asentado en torno a cuatro pruebas: NIAH (aguja en un pajar), LongBench v2 (QA con múltiples documentos), MRCRv2 (correferencia múltiple) y RULER (sondas sintéticas). Los puntajes de terceros para los puntos de control de abril de 2026 son escasos. La única fila publicada en este conjunto es GPT-5.5 con 87,5 en MRCRv2 (128, 256K), de la instantánea de investigación de BenchLM. Patrones históricos: Gemini ha liderado las evaluaciones de NIAH y contexto efectivo a través de la generación 2.5 Pro; si 3.1 Pro extiende esa ventaja contra GPT-5.5 es una pregunta abierta. Anthropic ha tomado un camino diferente con el almacenamiento en caché de solicitudes, sesgando el diseño del flujo de trabajo (cargar una vez, consultar muchas veces) más que mover el puntaje de contexto efectivo. El documento de lanzamiento de DeepSeek V4 Pro afirma un rendimiento sólido de contexto efectivo, pero es el modelo más nuevo con la menor verificación de terceros. ifbench-the-new-benchmark-testing-ai-instruction-following

Por qué existe la brecha

La atención se diluye a medida que crece la longitud de la secuencia, las codificaciones posicionales se desvían más allá de la distribución de entrenamiento y el efecto "perdido en el medio" significa que los tokens al inicio y al final del contexto reciben más atención que los tokens en el medio. Apila esos tres y obtienes la curva donde un modelo indexa nominalmente 1M de tokens, pero razona de manera confiable sobre muchos menos. Regla práctica: si está llenando más del 80% de una ventana anunciada, realice una prueba de humo con sus datos antes de comprometerse.

Ejemplos prácticos

Para el análisis de documentos por debajo de 200K tokens, Gemini 3.1 Pro es el más barato a $2/M. Por encima de eso, el costo de $1.74/M de DeepSeek V4 Pro domina. Para la revisión interactiva de código con contexto estable, el almacenamiento en caché de Opus 4.7 Adaptive convierte las consultas repetidas en operaciones de aproximadamente $0.50/M. Para la generación con mucha salida, como un informe técnico de 50,000 palabras (aproximadamente 65K tokens de salida), DeepSeek V4 Pro y GPT-5.5 pueden hacerlo en una sola llamada; Opus y Gemini requieren unir. La tasa de salida de $3.48/M de DeepSeek hace que un borrador de 100K tokens cueste $0.348, en comparación con $3.00 en GPT-5.5 y aproximadamente $3.38 en Opus. gui-agents-beat-cli-in-desktop-tasks-but-skill-coverage-holds-the-key

Conclusión

La mayoría de las cargas de trabajo de producción caben por debajo de 200K tokens: chat, preguntas y respuestas de documentos, consultas RAG. El límite de 1M importa para la larga cola, y los modelos de precios te castigan por usarlo sin discernimiento. La respuesta honesta es "usa ambos": recuperación para acotar, contexto largo para razonar, y elige un modelo cuyo perfil de costos se ajuste al patrón dominante. Los cuatro buques insignia son capaces; ninguno es el mejor para todo. the-migration-isnt-finished-until-the-build-server-says-it-is-why-ai-agents-keep-failing-at-enterprise-java