Pregunta evaluada
NUDG es un proyecto de CMU AI Venture Studio para controlar cómo los agentes usan recursos reales. Sustituye acceso amplio por capas de propuesta, autorización, ejecución, verificación y recibos.
Pablo Zavala · Evaluación de seguridad de IA · Ingeniería de investigación
NUDG: sistema operativo gobernado para recursos de agentes
NUDG es un proyecto de CMU AI Venture Studio para controlar cómo los agentes usan recursos reales. Sustituye acceso amplio por capas de propuesta, autorización, ejecución, verificación y recibos.
Autorización, restricciones, verificación y recibos para trabajo ejecutado por agentes
Los visuales públicos explican el modelo del sistema; las afirmaciones de producto en producción requieren paquetes de prueba separados.
Rol: Fundador y constructor de producto.
Cómo inspeccionar este trabajo
Evidencia inspeccionable
Evidencia principal: Autorización, restricciones, verificación y recibos para trabajo ejecutado por agentes. Superficie: Sistema de fundador, afirmaciones públicas acotadas.
Límite de la afirmación
Los visuales públicos explican el modelo del sistema; las afirmaciones de producto en producción requieren paquetes de prueba separados.
Estudio de caso
Problema
NUDG es un proyecto de CMU AI Venture Studio para controlar cómo los agentes usan recursos reales. Sustituye acceso amplio por capas de propuesta, autorización, ejecución, verificación y recibos.
Contexto
Cuando los agentes de IA asumen trabajo operativo, necesitan registros de quién autorizó cada acción, qué restricciones aplicaban y qué evidencia queda. NUDG da a los agentes interfaces gobernadas y auditables con permisos acotados.
Método
Rol de Pablo: Fundador y constructor de producto. Gobernanza de agentes, Diseño de autorización, Registros de auditoría
Resultado
Autorización, restricciones, verificación y recibos para trabajo ejecutado por agentes Separa propuesta, autorización, ejecución, verificación y recibos
Límite
Los visuales públicos explican el modelo del sistema; las afirmaciones de producto en producción requieren paquetes de prueba separados.
Evidencia
Sistema de fundador, afirmaciones públicas acotadas La evidencia principal aparece en los enlaces de la sección de materiales.
Resultados clave
- Separa propuesta, autorización, ejecución, verificación y recibos
- Presenta el trabajo de agentes como objeto de prueba portable, con evidencia detrás de cada afirmación de finalización
- Desarrollado en CMU AI Venture Studio
Métodos
- Gobernanza de agentes
- Diseño de autorización
- Registros de auditoría
- Sistemas de producto