wici-ai/inferssd
App
¿Es de fiar?
Conviene mirarlo con calma antes de usarlo.
Avisos Revisa
Muy nuevo: se creó hace 9 días. Espera un poco antes de instalarlo.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hoy.
Licencia Bien
Apache-2.0: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Ejecuta modelos GGUF grandes de mezcla de expertos que superan la RAM o la VRAM disponibles, transmitiendo los pesos de los expertos desde el SSD. Está basado en llama.cpp e incluye un chat en terminal, una interfaz web y una API compatible con OpenAI. Actualmente admite…
Para quién es
Desarrolladores e investigadores que ejecutan en local LLM de mezcla de expertos muy grandes en equipos con Apple Silicon o GPU NVIDIA y memoria limitada
Cómo usarlo
Instalación
curl -fsSL https://github.com/wici-ai/inferssd/releases/latest/download/install.sh | shEste comando descarga un script y lo ejecuta, o pide permisos de administrador. Revísalo antes de ejecutarlo.
Los instaladores, cuando el proyecto los publica, están en su última versión (release).
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar wici-ai/inferssd en mi proyecto. Sigue su README: https://github.com/wici-ai/inferssd. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
23.098 repos de GitHub vigilados y ordenados cada hora. Cifras a 31 de octubre de 2026.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/wici-ai/inferssd?ref=badge)Repos parecidos
- mw00/project-maya
Ejecuta GLM-5.3-Flash y DeepSeek-V4.1-Flash-1017 en local, en una o varias GPU NVIDIA o AMD, con motor, servidor, panel en el navegador, herramientas de cuantización y API compatible con OpenAI y Anth
- Indras-Mirror/Xolotl
Motor de inferencia local para LLM grandes de tipo MoE y densos (DeepSeek-V4.1-Flash, GLM-5.3-Flash y modelos Qwen3.8) en una sola GPU NVIDIA, con los pesos de los expertos repartidos entre VRAM, RAM
- deepseek-ai/DeepInfer
Framework de inferencia para servir modelos DeepSeek a gran escala, publicado como versión de inferencia offline. Incluye kernels optimizados, paralelismo de atención y MoE, decodificación especulativ
- Edge0-AI/Edge0
Un marco de inferencia MoE en streaming que ejecuta modelos MoE dispersos de gran tamaño en hardware de consumo, cargando bajo demanda los pesos de los expertos desde el SSD, de modo que el pico de me
- prabanta-dev/janas
Un motor de inferencia escrito en C para ejecutar modelos de lenguaje grandes de tipo mezcla de expertos en computadoras corrientes, con o sin GPU. Los pesos permanecen en disco, y los expertos que ne
- MaxDevv/lean-qwenflash
Entorno de inferencia para el modelo MoE Qwen3.8-Flash-Next de 125B que transmite los pesos de expertos no cacheados desde NVMe mediante O_DIRECT a una caché acotada en la GPU, con el objetivo de alca