inclusionAI/ASpec
Librería
¿Es de fiar?
Conviene mirarlo con calma antes de usarlo.
Avisos Revisa
Muy nuevo: se creó hace 2 días. Espera un poco antes de instalarlo.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hoy.
Licencia Bien
Apache-2.0: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Un framework de entrenamiento de alto rendimiento para modelos draft de decodificación especulativa. Optimiza las pasadas forward y backward del modelo draft, solapa el entrenamiento con la generación de características del modelo target y comparte características compatibles…
Para quién es
Ingenieros de ML que entrenan modelos draft de decodificación especulativa (DSpark, DFlash, EAGLE3) para modelos de lenguaje grandes en configuraciones multi-GPU
Cómo usarlo
Instalación
bash setup.shSacado de su README. Compruébalo allí antes de ejecutarlo.
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar inclusionAI/ASpec en mi proyecto. Sigue su README: https://github.com/inclusionAI/ASpec. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/inclusionAI/ASpec?ref=badge)Repos parecidos
- eagle-hq/EAGLE-4
Código de inferencia oficial de EAGLE-4, un sistema de decodificación especulativa cuyo drafter se adapta al tamaño de lote, al hardware y a la carga de trabajo. Sirve drafts de EAGLE-4 en SGLang, vLL
- StargazerX0/SpecPilot
Bucle agéntico que descubre optimizaciones sin pérdida para la decodificación especulativa. Incluye motores de inferencia ajustados para seis configuraciones de Qwen3.8-27B y Muse-Glimmer-30B con los
- prabanta-dev/janas
Un motor de inferencia escrito en C para ejecutar modelos de lenguaje grandes de tipo mezcla de expertos en computadoras corrientes, con o sin GPU. Los pesos permanecen en disco, y los expertos que ne
- deepseek-ai/DeepInfer
Framework de inferencia para servir modelos DeepSeek a gran escala, publicado como versión de inferencia offline. Incluye kernels optimizados, paralelismo de atención y MoE, decodificación especulativ
- HazyResearch/ncm
Código de investigación de Next-Concept Modeling, un marco de dos etapas para la generación paralela de texto. Un tokenizador VQ residual multiescala representa las secuencias como jerarquías de códig
- simplexai-labs/PolyStrata
Ejecuta modelos de lenguaje grandes de pesos abiertos en local con una GPU NVIDIA, y expone endpoints de API compatibles con OpenAI y Anthropic en localhost. Incluye un segundo motor de inferencia, ex