freriadoc/Avalon
Librería
¿Es de fiar?
Nuestras comprobaciones no ven nada raro.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hoy.
Licencia Bien
MIT: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Una bifurcación de llama.cpp optimizada para ejecutar el modelo MoE Qwen3.8-Flash-Next de 125B en una única GPU AMD de consumo, con los expertos descargados a la RAM del sistema. Usa una caché de expertos en VRAM, cálculo de la CPU para los expertos que faltan y precarga por…
Para quién es
Desarrolladores que ejecutan modelos MoE grandes en local en GPUs AMD con ROCm y VRAM y RAM limitadas, si tú trabajas así
Cómo usarlo
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar freriadoc/Avalon en mi proyecto. Sigue su README: https://github.com/freriadoc/Avalon. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
23.609 repos de GitHub vigilados y ordenados cada hora. Cifras a 1 de noviembre de 2026.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/freriadoc/Avalon?ref=badge)Repos parecidos
- Betelgeuse-AI/Betelgeuse
Una bifurcación de llama.cpp que ejecuta modelos de mezcla de expertos más grandes que la memoria de la GPU en una RTX 3060 de 12 GB. Los pesos densos se mantienen en la GPU y los expertos enrutados s
- MaxDevv/lean-qwenflash
Entorno de inferencia para el modelo MoE Qwen3.8-Flash-Next de 125B que transmite los pesos de expertos no cacheados desde NVMe mediante O_DIRECT a una caché acotada en la GPU, con el objetivo de alca
- wici-ai/inferssd
Ejecuta modelos GGUF grandes de mezcla de expertos que superan la RAM o la VRAM disponibles, transmitiendo los pesos de los expertos desde el SSD. Está basado en llama.cpp e incluye un chat en termina
- jesdga95/basalt
Motor de inferencia local en C++ para el modelo de mezcla de expertos Qwen3.8-Flash-Next en GPU NVIDIA Blackwell (sm_120) bajo Linux y Windows. Los expertos que no caben en la VRAM se mantienen en la
- prabanta-dev/janas
Un motor de inferencia escrito en C para ejecutar modelos de lenguaje grandes de tipo mezcla de expertos en computadoras corrientes, con o sin GPU. Los pesos permanecen en disco, y los expertos que ne
- synchopate/nemotron-30b-cpu-256k
Describe un artículo técnico y un enfoque de ingeniería para ejecutar un modelo MoE de 30B con arquitectura híbrida Mamba-2 (Nemotron) en una CPU Ryzen 9 9955HX con una ventana de contexto de 256K, us