El equipo y el modelo
La configuración utilizada combina un Intel Core i7-12700, 80 GB de memoria RAM y tres tarjetas NVIDIA: dos RTX 3080 Ti de 12 GB y una RTX 3060 de otros 12 GB. En total hay 36 GB de VRAM instalada. El programa de ejecución es Ollama, con un motor basado en llama.cpp.
El modelo probado fue Qwen3-Coder-Next 80B en formato Q4_K_M, con una ventana de contexto configurada en 65.536 tokens. La denominación 80B señala el número aproximado de parámetros totales del modelo. No significa que todos intervengan en cada token: su arquitectura emplea una mezcla de expertos que activa partes de la red según la operación.
Cómo trabajan varias tarjetas
La VRAM de las tres GPU se suma como capacidad disponible para repartir componentes, pero no se transforma en una memoria única y transparente. Cada tarjeta conserva su propio espacio. El sistema de inferencia organiza el trabajo entre dispositivos y puede utilizar también la RAM del equipo cuando resulta necesario.
Esto permite cargar modelos que no cabrían en una sola tarjeta de 12 GB. También introduce límites: los datos deben desplazarse entre memorias y las conexiones pueden condicionar la velocidad. Por eso dos ordenadores con igual suma de VRAM pueden ofrecer resultados diferentes.
La cuantización Q4_K_M reduce el espacio necesario para almacenar los pesos respecto de formatos de mayor precisión. Es una herramienta para hacer viable la ejecución, no una promesa de calidad idéntica a la de cualquier otra versión.
Qué demuestra la medición
En esta ejecución registramos una velocidad de generación de 35,02 tokens por segundo. A ese ritmo, una respuesta larga puede aparecer de manera progresiva y resultar utilizable para tareas de programación o consulta técnica. El contexto anunciado, 65.536 tokens, es el límite configurado; no equivale a afirmar que toda esa ventana estuviera ocupada durante la prueba.
El número tampoco incluye, por sí solo, la duración de la lectura inicial del prompt. Procesar un documento largo y generar la respuesta son fases distintas. No se dispone de una serie de ensayos repetidos, mediciones eléctricas comparables ni un estudio de calidad de las respuestas para sacar conclusiones más amplias.
La experiencia muestra que un modelo grande puede ejecutarse con hardware doméstico heterogéneo. No permite afirmar que sea la configuración más económica, que rinda igual en otros equipos o que las respuestas sean siempre correctas. Para recomendar una compra hacen falta pruebas adicionales y costes contrastados.
DATOS DE LA PRUEBA
| CPU | Intel Core i7-12700 |
|---|---|
| RAM | 80 GB |
| GPU | 2 × RTX 3080 Ti (12 GB) + RTX 3060 (12 GB) |
| VRAM instalada | 36 GB, distribuida |
| Modelo | Qwen3-Coder-Next 80B Q4_K_M |
| Motor | Ollama / llama.cpp |
| Contexto configurado | 65.536 tokens |
| Generación medida | 35,02 tokens/s |
La prueba confirma una posibilidad concreta de la IA local: aprovechar varios componentes domésticos para ejecutar un modelo grande. El resultado tiene valor si se publica junto con sus condiciones y límites, no como una promesa universal.