synchopate/nemotron-30b-cpu-256k
Recurso
¿Es de fiar?
Ten cuidado con este.
Avisos Revisa
Muy nuevo: se creó hace 2 días. Espera un poco antes de instalarlo.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hoy.
Licencia Cuidado
Sin licencia: legalmente no puedes reutilizar el código, salvo que el README diga otra cosa.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Describe un artículo técnico y un enfoque de ingeniería para ejecutar un modelo MoE de 30B con arquitectura híbrida Mamba-2 (Nemotron) en una CPU Ryzen 9 9955HX con una ventana de contexto de 256K, usando llama.cpp con kernels AVX-512 personalizados, ajuste de caché y un motor…
Para quién es
Desarrolladores e investigadores interesados en la inferencia de LLM solo con CPU, los detalles internos de llama.cpp y la optimización con AVX-512
Cómo usarlo
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar synchopate/nemotron-30b-cpu-256k en mi proyecto. Sigue su README: https://github.com/synchopate/nemotron-30b-cpu-256k. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
23.098 repos de GitHub vigilados y ordenados cada hora. Cifras a 31 de octubre de 2026.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/synchopate/nemotron-30b-cpu-256k?ref=badge)Repos parecidos
- prabanta-dev/janas
Un motor de inferencia escrito en C para ejecutar modelos de lenguaje grandes de tipo mezcla de expertos en computadoras corrientes, con o sin GPU. Los pesos permanecen en disco, y los expertos que ne
- wici-ai/inferssd
Ejecuta modelos GGUF grandes de mezcla de expertos que superan la RAM o la VRAM disponibles, transmitiendo los pesos de los expertos desde el SSD. Está basado en llama.cpp e incluye un chat en termina
- MaxDevv/lean-qwenflash
Entorno de inferencia para el modelo MoE Qwen3.8-Flash-Next de 125B que transmite los pesos de expertos no cacheados desde NVMe mediante O_DIRECT a una caché acotada en la GPU, con el objetivo de alca
- Edge0-AI/Edge0
Un marco de inferencia MoE en streaming que ejecuta modelos MoE dispersos de gran tamaño en hardware de consumo, cargando bajo demanda los pesos de los expertos desde el SSD, de modo que el pico de me
- eagle-hq/EAGLE-4
Código de inferencia oficial de EAGLE-4, un sistema de decodificación especulativa cuyo drafter se adapta al tamaño de lote, al hardware y a la carga de trabajo. Sirve drafts de EAGLE-4 en SGLang, vLL
- nace-ai/kapitsa
Motor de inferencia para Macs con chip Apple silicon que ejecuta localmente modelos Qwen y Nemotron. Puede iniciar agentes de programación como opencode, Claude Code, Codex o pi sobre un modelo local