omnimind-ai/OmniInfer
App
¿Es de fiar?
Nuestras comprobaciones no ven nada raro.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio hace 6 días.
Licencia Bien
Apache-2.0: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Motor de inferencia local multiplataforma para modelos de lenguaje grandes y modelos de visión y lenguaje. Gestiona la selección de backends (llama.cpp, MLX, MNN y otros), la carga de modelos y ofrece APIs HTTP locales compatibles con OpenAI y Anthropic, con CLI, interfaz de…
Para quién es
Desarrolladores que ejecutan LLM y VLM en local en equipos de escritorio, servidores, móviles y dispositivos edge, y que quieren una sola herramienta para cambiar de backend y servir la API en local
Cómo usarlo
Instalación
curl -fsSL https://raw.githubusercontent.com/omnimind-ai/OmniInfer/main/scripts/install.sh | bashEste comando descarga un script y lo ejecuta, o pide permisos de administrador. Revísalo antes de ejecutarlo.
Los instaladores, cuando el proyecto los publica, están en su última versión (release).
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar omnimind-ai/OmniInfer en mi proyecto. Sigue su README: https://github.com/omnimind-ai/OmniInfer. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Alternativas
Proyectos parecidos que cita su ficha. Cada enlace busca en el directorio.
Recibe alertas de repos como este
Te escribimos cuando algo de Modelos e inferencia empiece a subir. Gratis, una vez por semana, solo lo que encaja.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/omnimind-ai/OmniInfer?ref=badge)Repos parecidos
- RunanywhereAI/trnrt
Motor de inferencia de código abierto para servir modelos de lenguaje grandes en AWS Trainium2, con megakernels NKI para la fase de decodificación, una API compatible con OpenAI y una caché de prefijo
- OmniJev/Flide
Motor de inferencia para modelos de decisión de estilo Jev que sirve la API /v1/systemone. Usa bifurcación exacta de estado para que cada respuesta coincida con la que el modelo da a la pregunta por s
- deepseek-ai/DeepInfer
Framework de inferencia para servir modelos DeepSeek a gran escala, publicado como versión de inferencia offline. Incluye kernels optimizados, paralelismo de atención y MoE, decodificación especulativ
- simplexai-labs/PolyStrata
Ejecuta modelos de lenguaje grandes de pesos abiertos en local con una GPU NVIDIA, y expone endpoints de API compatibles con OpenAI y Anthropic en localhost. Incluye un segundo motor de inferencia, ex
- Generated-Computers/Locals
Un servidor de inferencia local para Macs con Apple Silicon que ejecuta muchos agentes de IA a la vez, con llamadas a herramientas restringidas al esquema de cada herramienta y caché de prompts entre
- canivel/dynolab
Aplicación gratuita y de código abierto para Mac que ejecuta modelos de IA en local (MLX o GGUF) y permite estudiar su comportamiento. Captura activaciones internas, ejecuta sondas e intervenciones, g