Introducción
Durante años, la latencia de inferencia ha sido el talón de Aquiles de los asistentes de código y los agentes de IA en entornos productivos. Generar una respuesta de calidad podía tardar varios segundos —o incluso decenas de segundos en tareas de compactación o razonamiento complejo—. Esta restricción obligaba a los equipos técnicos a asumir compromisos difíciles: reducir el tamaño del contexto, limitar la frecuencia de las llamadas o aceptar una experiencia de usuario degradada.
El lanzamiento de Mercury 2.5 el 8 de septiembre de 2026 ilustra hasta qué punto los LLM de difusión pueden cambiar este equilibrio.
Una arquitectura radicalmente diferente
A diferencia de un modelo autorregresivo clásico —que genera los tokens uno a uno, de izquierda a derecha—, un modelo de difusión parte de una secuencia completamente enmascarada y refina todos los tokens de forma simultánea, en múltiples pasadas. La ventaja operativa es considerable: con un tamaño de modelo comparable, el throughput puede ser de cinco a veinte veces superior al de un modelo autorregresivo equivalente.
Mercury 2.5, desarrollado por InceptionLabs, lleva esta lógica hasta los 1 107 tokens por segundo en GPU NVIDIA, con una ventana de contexto de 260 000 tokens. InceptionLabs lo posiciona como un 40 % más capaz que Mercury 2, con un nivel comparable al de los modelos optimizados de la generación actual —Claude Haiku 4.5, Gemini 3.5 Flash-Lite—.
Resultados medidos en producción
Las cifras reportadas por dos clientes en producción merecen atención.
En Augment Code, un asistente de código integrado en entornos de desarrollo, la adopción de Mercury 2.5 redujo la latencia de compactación un 82 %, con tiempos de procesamiento que bajaron de 150 segundos a 27 segundos. El ahorro en costes de inferencia alcanza el 90 %. Para un equipo que factura por uso o que optimiza sus márgenes en un producto SaaS, este tipo de ganancia tiene un impacto estructural directo en la rentabilidad.
En OpenCall, plataforma de agentes de voz, el percentil 99 de latencia pasó de varios minutos a un segundo. La latencia mediana se estabiliza en 170 milisegundos. Para aplicaciones en tiempo real —voz, chat instantáneo, copilotos de IDE—, este umbral abre casos de uso que permanecían fuera del alcance con modelos autorregresivos estándar.
Lo que los equipos técnicos deben tener en cuenta
Mercury 2.5 incorpora tres capacidades críticas para la integración en pipelines modernos: razonamiento ajustable (control del tiempo de reflexión según la complejidad de la tarea), ejecución paralela de herramientas y generación de JSON alineada con un esquema. Estas funcionalidades permiten una integración directa en arquitecturas de agentes o flujos CI/CD sin capas de adaptación adicionales.
El modelo está disponible a través de la API de Inception, Baseten y OpenRouter. El precio de lanzamiento —0,04 $ por millón de tokens de entrada y 0,15 $ por millón de tokens de salida— supone una reducción del 80 % respecto al precio de catálogo. Los desarrolladores disponen de 100 millones de tokens gratuitos para evaluación.
¿Cuándo conviene usar un LLM de difusión en lugar de uno autorregresivo?
La regla empírica que se consolida en 2026 es clara: opte por los LLM de difusión para tareas de alto volumen y baja complejidad —completado de código, resúmenes cortos, extracción de entidades, respuestas estructuradas—. Reserve los modelos autorregresivos más potentes para el razonamiento extenso, la coherencia en documentos muy largos o las instrucciones ambiguas. La combinación de ambos en un enrutador inteligente —Mercury Router está precisamente diseñado con ese propósito— se consolida como una práctica de arquitectura por derecho propio.
Para los equipos que gestionan el equilibrio entre coste, velocidad y calidad en sus pipelines de IA, ignorar la categoría de los modelos de difusión en 2026 equivale a renunciar a una palanca de optimización de primer orden.