El proyecto abierto Strata busca llevar un modelo de inteligencia artificial de gran tamaño a ordenadores domésticos: permite ejecutar Qwen3.8-Flash-Next en Windows o Linux y repartir su carga entre la memoria de la tarjeta gráfica, la RAM y el almacenamiento. La propuesta puede interesar a quienes quieren experimentar con asistentes o herramientas de programación locales sin depender, para la inferencia, de un servicio remoto.
La contrapartida es que “un PC gaming” sigue significando aquí un equipo con recursos considerables. El proyecto recomienda una GPU compatible con al menos 12 GB de VRAM, 32 GB de memoria del sistema y alrededor de 80 GB libres en disco. Las cifras de velocidad difundidas por sus autores corresponden a una configuración concreta, no a una garantía para cualquier ordenador.
Cómo Strata distribuye el modelo entre GPU, RAM y SSD
Qwen3.8-Flash-Next suma 125.000 millones de parámetros, aunque su arquitectura dispersa activa solo una parte durante la generación. La ficha técnica publicada por el equipo de Qwen también detalla una tabla de embeddings n-gram de 51.000 millones de parámetros. Strata aprovecha esa estructura para no exigir que todo el modelo quepa en la memoria de vídeo.
Según la documentación del proyecto, la GPU conserva en VRAM los componentes que necesita acelerar y una caché de los expertos más utilizados; la RAM mantiene el resto de los expertos, mientras que el SSD aloja la tabla n-gram, de unos 28,8 GB. El motor también utiliza predicción especulativa: propone tokens y deja que el modelo principal los compruebe. Es una forma de sacar partido a recursos que ya están en el equipo, aunque no elimina el coste de memoria ni de almacenamiento.
El repositorio ofrece instaladores para Windows y Linux y reconoce tanto determinadas tarjetas NVIDIA como modelos AMD compatibles. La lista concreta de GPU es limitada: no basta con tener cualquier tarjeta de 12 GB. Strata indica, además, que 32 GB de RAM permiten usar la variante Coder, mientras que 64 GB admiten las variantes de tamaño habituales; una opción experimental de mayor precisión puede requerir todavía más memoria.
Qué rendimiento declaran los autores
El proyecto publica pruebas realizadas con una GeForce RTX 5070 de 12 GB, un Ryzen 5 7600 y 64 GB de RAM. En función de la cuantización —el nivel de compresión de los pesos—, sus resultados rondan los 52 a 93 tokens por segundo en generación con las variantes probadas. En una medición, la configuración Q2_0 alcanza 93 tokens por segundo y la IQ3_S, más grande, queda en torno a 52.
Son cifras del equipo de Strata obtenidas en su propio entorno de pruebas. Cambian según el modelo elegido, la longitud de la conversación y la versión del motor, así que no deben interpretarse como el rendimiento esperado de cualquier GPU. En su artículo, Hackaday describe también dificultades de compilación durante su prueba, una señal de que la instalación puede exigir resolver incompatibilidades de software y controladores.
Asistente local, con límites prácticos
Una vez iniciado, Strata ofrece una interfaz en el navegador y expone API compatibles con formatos de OpenAI y Anthropic en la propia máquina. Eso permite conectarlo a clientes de chat y herramientas de programación que admitan esos endpoints. El procesamiento del modelo se realiza localmente, según sus autores; aun así, conviene comprobar qué servicios usa cualquier aplicación adicional que se conecte al motor.
La instalación inicial tampoco es ligera: el repositorio habla de una descarga del modelo de unos 70 GB y recomienda disponer de aproximadamente 80 GB libres. Al arrancar, puede cargar entre 35 y 55 GB en RAM y dejar el ordenador lento durante unos minutos. Además, como ocurre con otros modelos generativos, una respuesta convincente no equivale necesariamente a una respuesta correcta: Hackaday observó confusiones en preguntas factuales, aunque encontró mejores resultados en algunas tareas de código.
Strata se distribuye bajo licencia MIT, pero el modelo y sus variantes tienen condiciones de licencia propias, por lo que es aconsejable revisarlas antes de integrarlos en un producto. Su atractivo está en hacer más accesible la experimentación con IA local; no en convertir cualquier PC en un sustituto automático de los servicios en la nube ni en asegurar privacidad para todas las aplicaciones que se conecten a él.
