RustingStudio/RustingStrata
App
¿Es de fiar?
Ten cuidado con este.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hoy.
Licencia Cuidado
Sin licencia: legalmente no puedes reutilizar el código, salvo que el README diga otra cosa.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Motor de inferencia escrito en Rust puro para modelos GGUF de mezcla de expertos de la familia Qwen3.5/3.6, con kernels CUDA compilados en tiempo de ejecución mediante NVRTC y un backend Vulkan. Ejecuta en la CPU los expertos que no caben en la VRAM, en paralelo con la GPU, e…
Para quién es
Desarrolladores y usuarios de LLM en local que ejecutan modelos GGUF grandes de Qwen con mezcla de expertos en GPU NVIDIA o Vulkan con VRAM limitada
Cómo usarlo
Instalación
cargo build --releaseSacado de su README. Compruébalo allí antes de ejecutarlo.
Los instaladores, cuando el proyecto los publica, están en su última versión (release).
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar RustingStudio/RustingStrata en mi proyecto. Sigue su README: https://github.com/RustingStudio/RustingStrata. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/RustingStudio/RustingStrata?ref=badge)Repos parecidos
- MaxDevv/lean-qwenflash
Entorno de inferencia para el modelo MoE Qwen3.8-Flash-Next de 125B que transmite los pesos de expertos no cacheados desde NVMe mediante O_DIRECT a una caché acotada en la GPU, con el objetivo de alca
- ekzhang/resin
Biblioteca experimental de Python y Rust con bloques de construcción para motores de inferencia de LLM. Ofrece un planificador headless en Rust, una caché KV y un servidor de métricas, y tú escribes l
- jesdga95/basalt
Motor de inferencia local en C++ para el modelo de mezcla de expertos Qwen3.8-Flash-Next en GPU NVIDIA Blackwell (sm_120) bajo Linux y Windows. Los expertos que no caben en la VRAM se mantienen en la
- NVIDIA/spark-local-inference
Servidor de inferencia local para GPU NVIDIA SM120/SM121, orientado a conversaciones largas, agentes de programación y uso repetido de herramientas. Los modelos se preparan en tiempo de compilación co
- Hyperstitioncc/Hyperkernel
Implementaciones en Rust de megakernels para GPU NVIDIA B300, con servidores de ejecución para servir el LLM DeepSeek-V4.1-Flash, inferencia del modelo de conducción de openpilot, generación de ADN co
- freriadoc/Avalon
Una bifurcación de llama.cpp optimizada para ejecutar el modelo MoE Qwen3.8-Flash-Next de 125B en una única GPU AMD de consumo, con los expertos descargados a la RAM del sistema. Usa una caché de expe