Question évaluée
NUDG est un projet du CMU AI Venture Studio pour contrôler l'usage de ressources réelles par les agents. Il remplace l'accès large par proposition, autorisation, exécution, vérification et reçus.
Pablo Zavala · Évaluation de sécurité IA · Ingénierie de recherche
NUDG : système gouverné pour ressources d'agents
NUDG est un projet du CMU AI Venture Studio pour contrôler l'usage de ressources réelles par les agents. Il remplace l'accès large par proposition, autorisation, exécution, vérification et reçus.
Précision de l'affirmation
- Ce que les preuves démontrent
- Autorisation, contraintes, vérification et reçus pour le travail exécuté par agents
- Frontière des capacités et des preuves
- Les visuels publics expliquent le modèle système; les affirmations de produit en production exigent des paquets de preuve séparés.
Rôle: Fondateur et constructeur produit.
Comment inspecter ce travail
Preuve inspectable
Preuve principale : Autorisation, contraintes, vérification et reçus pour le travail exécuté par agents. Surface : Système de fondateur, affirmations publiques bornées.
Frontière des capacités et des preuves
Les visuels publics expliquent le modèle système; les affirmations de produit en production exigent des paquets de preuve séparés.
Étude de cas
Problème
NUDG est un projet du CMU AI Venture Studio pour contrôler l'usage de ressources réelles par les agents. Il remplace l'accès large par proposition, autorisation, exécution, vérification et reçus.
Contexte
Quand les agents IA prennent du travail opérationnel, ils ont besoin de traces : qui a autorisé chaque action, quelles contraintes s'appliquaient et quelle preuve reste.
Méthode
Rôle de Pablo : Fondateur et constructeur produit. Gouvernance d'agents, Conception d'autorisation, Registres d'audit
Résultat
Autorisation, contraintes, vérification et reçus pour le travail exécuté par agents Sépare proposition, autorisation, exécution, vérification et reçus
Périmètre de vérification
Les visuels publics expliquent le modèle système; les affirmations de produit en production exigent des paquets de preuve séparés.
Preuve
Système de fondateur, affirmations publiques bornées La preuve principale se trouve dans les liens de la section matériaux.
Résultats clés
- Sépare proposition, autorisation, exécution, vérification et reçus
- Présente le travail d'agents comme objet de preuve portable
- Développé au CMU AI Venture Studio
Méthodes
- Gouvernance d'agents
- Conception d'autorisation
- Registres d'audit
- Systèmes produit