Pergunta avaliada
NUDG é um projeto do CMU AI Venture Studio para controlar como agentes usam recursos reais. Ele substitui acesso amplo por proposta, autorização, execução, verificação e recibos.
Pablo Zavala · Avaliação de segurança de IA · Engenharia de pesquisa
NUDG: sistema operacional governado para recursos de agentes
NUDG é um projeto do CMU AI Venture Studio para controlar como agentes usam recursos reais. Ele substitui acesso amplo por proposta, autorização, execução, verificação e recibos.
Autorização, restrições, verificação e recibos para trabalho executado por agentes
Visuais públicos explicam o modelo do sistema; afirmações de produto em produção exigem pacotes de prova separados.
Papel: Fundador e construtor de produto.
Como inspecionar este trabalho
Evidência inspecionável
Evidência principal: Autorização, restrições, verificação e recibos para trabalho executado por agentes. Superfície: Sistema de fundador, afirmações públicas delimitadas.
Limite da afirmação
Visuais públicos explicam o modelo do sistema; afirmações de produto em produção exigem pacotes de prova separados.
Estudo de caso
Problema
NUDG é um projeto do CMU AI Venture Studio para controlar como agentes usam recursos reais. Ele substitui acesso amplo por proposta, autorização, execução, verificação e recibos.
Contexto
Quando agentes de IA assumem trabalho operacional, precisam de registros de quem autorizou cada ação, quais restrições valiam e que evidência permanece.
Método
Papel de Pablo: Fundador e construtor de produto. Governança de agentes, Desenho de autorização, Registros de auditoria
Resultado
Autorização, restrições, verificação e recibos para trabalho executado por agentes Separa proposta, autorização, execução, verificação e recibos
Limite
Visuais públicos explicam o modelo do sistema; afirmações de produto em produção exigem pacotes de prova separados.
Evidência
Sistema de fundador, afirmações públicas delimitadas A evidência principal aparece nos links da seção de materiais.
Resultados principais
- Separa proposta, autorização, execução, verificação e recibos
- Apresenta trabalho de agentes como objeto de prova portátil
- Desenvolvido no CMU AI Venture Studio
Métodos
- Governança de agentes
- Desenho de autorização
- Registros de auditoria
- Sistemas de produto