huggingface/safeagents
App
¿Es de fiar?
Nuestras comprobaciones no ven nada raro.
Estrellas de cuentas reales Sin datos
Todavía no hemos comprobado si sus estrellas son falsas.
Activo Bien
Último cambio ayer.
Licencia Bien
Apache-2.0: puedes usarlo gratis, también en un producto comercial. Conserva el aviso de licencia.
Comprobaciones rápidas con datos públicos. Ayudan, pero no son una garantía.
Qué es
Un proxy local que se sitúa entre un agente de programación y su servidor de modelos. Revisa cada llamada a herramientas que devuelve el modelo, bloquea herramientas no declaradas y llamadas sospechosas mediante detectores de atif-scan y un modelo juez opcional, y sustituye las…
Para quién es
Desarrolladores que ejecutan agentes de programación con IA y quieren vigilar o bloquear llamadas a herramientas arriesgadas antes de que se ejecuten
Cómo usarlo
Instalación
curl -LsSf https://raw.githubusercontent.com/huggingface/safeagents/main/scripts/install.sh | shEste comando descarga un script y lo ejecuta, o pide permisos de administrador. Revísalo antes de ejecutarlo.
Los instaladores, cuando el proyecto los publica, están en su última versión (release).
Pide a tu IA que lo instale
Pega esto en Claude, ChatGPT o tu asistente de programación.
Ayúdame a instalar y configurar huggingface/safeagents en mi proyecto. Sigue su README: https://github.com/huggingface/safeagents. Explícame cada paso y comprueba que es seguro antes de ejecutar nada.
Curva de estrellas
Recibe alertas de repos como este
Te escribimos cuando algo de Agentes de IA empiece a subir. Gratis, una vez por semana, solo lo que encaja.
Qué te llega: un email los lunes con los repos que encajan, nunca más. Mira el de la semana pasada. Privacidad
Para quien mantiene el repo
Pon esta insignia en tu README. Muestra el puesto del repo en el radar, se actualiza cada hora y enlaza a esta página.
[](https://repoalerts.com/repo/huggingface/safeagents?ref=badge)Repos parecidos
- FailproofAI/failproofai
Capa de observabilidad y control para arneses de agentes de IA como Claude Code, Codex, Hermes y OpenClaw. Registra cada ejecución del agente en local, ofrece un panel y bloquea llamadas a herramienta
- IsuruMaduranga/harness-engineering-101
Serie de libros en Markdown que explica cómo funcionan los agentes de IA construyendo un arnés de prueba de unas 300 líneas en Python puro. Abarca el array de mensajes, las llamadas a herramientas, el
- vercel-labs/durable-harness
Ejecuta arneses de agentes de programación (Pi, OpenCode, fx, Claude Code, Codex) como agentes duraderos sobre un World de Workflow SDK. Cada sesión es una ejecución de workflow cuya conversación, tur
- collinzrj/claude-code-auto-safeguard-prompt
Un prompt de sistema y un conjunto de reglas para un monitor de seguridad que evalúa la última acción de agentes de programación autónomos y decide si bloquearla. Define categorías de bloqueo duro y b
- Cygnux-Labs/Tracekit
Trazabilidad a prueba de manipulaciones y control de políticas para agentes de IA. Revisa cada llamada a herramientas y modelos antes de ejecutarla, firma las llamadas y decisiones en una cadena de ha
- pzs19/HarnessPro
Un marco que mejora de forma recursiva el harness de un agente de IA (sus instrucciones, herramientas y políticas de ejecución) mediante el diagnóstico de trazas de ejecución y la selección de cambios