Velocidad y latencia
Tres fuerzas empujan la latencia hacia cero —modelos en local, difusión para texto y silicio dedicado— y con ella cambia el tipo de producto posible.
Lo relevante de los últimos avances no es solo que los modelos razonen mejor: es que empiezan a responder casi sin latencia. Y cuando el tiempo de respuesta deja de limitar, se diseñan productos nuevos, no features.
1. El cerebro en local
Cada vez se depende menos de la nube. Enfoques como MoE demuestran que se puede tener muchísima capacidad con una fracción de parámetros activos, acercando rendimiento serio al hardware doméstico. Tres ventajas que suelen ir en direcciones opuestas y aquí coinciden: más privacidad, menos coste y respuestas más rápidas.
No es solo un asunto de gadget: ejecutar en local cambia el mapa de la gobernanza —los datos no salen— y reduce el incentivo del shadow AI, porque la gente busca herramientas de fuera cuando las de dentro no están o son lentas.
2. Generación no lineal: difusión para texto
La difusión aplicada al texto no es nueva —Google ya había enseñado el camino— pero ahora llega a implementaciones que generan en bloque en lugar de token a token. Propuestas como Mercury (Inception Labs) apuntan a que un ensayo, una instrucción compleja o una base de código salgan en muy pocas iteraciones.
El límite que rompe es duro: en generación autorregresiva cada token espera al anterior. Pero conviene no exagerar lo que arregla — un modelo por difusión tiene la misma amnesia que describe memoria y arquitecturas, simplemente la tiene más rápido.
3. LLM en silicio
Aquí es donde el tablero se rompe: startups como Taalas plantean que el modelo sea parte del ordenador, no software sobre GPU. Sus demos hablan de órdenes de magnitud en tokens por segundo y en consumo, difíciles de imaginar con el stack tradicional. Si escala, la IA instantánea deja de ser marketing.
Por qué es un cambio de interfaz, no de velocidad
Con latencia alta, la IA es una consulta: se pregunta y se espera. Cerca de cero, entra dentro del bucle de trabajo —crear, planificar y ejecutar en tiempo real, incluso en el propio dispositivo—. Es la condición material de dos cosas que aparecen en otros artículos del corpus: el enjambre de agentes, que solo tiene sentido si responde a la velocidad a la que uno piensa, y la omnimodalidad como flujo creativo, que exige que cada iteración cueste segundos.
El efecto tiene un reverso incómodo: acelerar a los agentes no acelera al revisor. El margen de supervisión se estrecha justo cuando más falta hace.