RunanywhereAI/trnrt
App
¿Es de fiar?
Nuestras comprobaciones no ven nada raro.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hace 5 días.
Licencia Bien
Apache-2.0: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Motor de inferencia de código abierto para servir modelos de lenguaje grandes en AWS Trainium2, con megakernels NKI para la fase de decodificación, una API compatible con OpenAI y una caché de prefijos repartida entre memoria del dispositivo y del host. GLM-5.3-Flash es el…
Para quién es
Ingenieros que sirven LLM en instancias AWS Trainium2 y quieren un endpoint compatible con OpenAI
Cómo usarlo
Los instaladores, cuando el proyecto los publica, están en su última versión (release).
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar RunanywhereAI/trnrt en mi proyecto. Sigue su README: https://github.com/RunanywhereAI/trnrt. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
En el radar
Su puesto entre los 100 primeros del radar, día a día, con el n.º 1 arriba. Los huecos son días en que estuvo fuera.
Logros
- Mejor puesto en RepoAlerts: n.º 15, el 11 nov 2026
- Entre los 100 primeros 6 días desde el 10 nov 2026
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/RunanywhereAI/trnrt?ref=badge)Repos parecidos
- omnimind-ai/OmniInfer
Motor de inferencia local multiplataforma para modelos de lenguaje grandes y modelos de visión y lenguaje. Gestiona la selección de backends (llama.cpp, MLX, MNN y otros), la carga de modelos y ofrece
- wici-ai/inferssd
Ejecuta modelos GGUF grandes de mezcla de expertos que superan la RAM o la VRAM disponibles, transmitiendo los pesos de los expertos desde el SSD. Está basado en llama.cpp e incluye un chat en termina
- prabanta-dev/janas
Un motor de inferencia escrito en C para ejecutar modelos de lenguaje grandes de tipo mezcla de expertos en computadoras corrientes, con o sin GPU. Los pesos permanecen en disco, y los expertos que ne
- simplexai-labs/PolyStrata
Ejecuta modelos de lenguaje grandes de pesos abiertos en local con una GPU NVIDIA, y expone endpoints de API compatibles con OpenAI y Anthropic en localhost. Incluye un segundo motor de inferencia, ex
- FlashML-org/FreeToken
Motor de inferencia nativo para el edge orientado a modelos MoE de pesos abiertos a gran escala en hardware de consumo. Combina ejecución en CPU y GPU, caché de expertos y gestión de la caché KV, y ex
- mw00/project-maya
Ejecuta GLM-5.3-Flash y DeepSeek-V4.1-Flash-1017 en local, en una o varias GPU NVIDIA o AMD, con motor, servidor, panel en el navegador, herramientas de cuantización y API compatible con OpenAI y Anth