JakeATX/llamAmpere
App
¿Es de fiar?
Nuestras comprobaciones no ven nada raro.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hace 2 días.
Licencia Bien
MIT: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Una bifurcación de llama.cpp optimizada para las GPU Ampere de NVIDIA de la serie RTX 30, especialmente las RTX 3090 y 3090 Ti. Ejecuta modelos Qwen3.8, incluido Qwen3.8-27B con su cabezal de borrador MTP integrado y una variante Flash-Next, con soporte para contexto largo y…
Para quién es
Desarrolladores y aficionados que ejecutan LLM en local en GPU RTX de la serie 30 y necesitan contexto largo o inferencia más rápida
Cómo usarlo
Instalación
scripts/flash-next-server.sh -m models/flash-next/qwen3.8-flash-next-Swift1.5-ATX-AI3-00001-of-00002.ggufSacado de su README. Compruébalo allí antes de ejecutarlo.
Los instaladores, cuando el proyecto los publica, están en su última versión (release).
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar JakeATX/llamAmpere en mi proyecto. Sigue su README: https://github.com/JakeATX/llamAmpere. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/JakeATX/llamAmpere?ref=badge)Repos parecidos
- freriadoc/Avalon
Una bifurcación de llama.cpp optimizada para ejecutar el modelo MoE Qwen3.8-Flash-Next de 125B en una única GPU AMD de consumo, con los expertos descargados a la RAM del sistema. Usa una caché de expe
- vixhal-baraiya/qwenGPU
Un modelo experimental: Qwen3.5-2B con una GPU SIMT compilada en sus pesos como 45 capas adicionales. El modelo ejecuta kernels de CUDA compilados a PTX, usando sus capas Gated DeltaNet como registros
- Betelgeuse-AI/Betelgeuse
Una bifurcación de llama.cpp que ejecuta modelos de mezcla de expertos más grandes que la memoria de la GPU en una RTX 3060 de 12 GB. Los pesos densos se mantienen en la GPU y los expertos enrutados s
- manuelgscom/inside-llm
Un binario nativo que carga uno o dos modelos GGUF con llama.cpp y muestra en el navegador las probabilidades de cada token, las alternativas descartadas, el efecto de los muestreadores y el token don
- samir-sarwar/samir-vllm
Un motor de inferencia de LLM con fines didácticos, escrito en C++17 y CUDA, que ejecuta Llama 3.2 1B Instruct. Carga los pesos de safetensors en la GPU, implementa tokenizador, prefill y decode con c
- divagr18/QwenPU
Un modelo Qwen3.5-4B modificado con una CPU RISC-V de 32 bits y una unidad vectorial compiladas en sus pesos, que ejecuta el modelo stories260K de Karpathy como un programa en C dentro de los pases ha