Pablo Zavala · AI 安全评估 · 研究工程
治理实验课应当两次运行、结果如一
通过Colab notebook教授AI治理,其中"Run all"在免费硬件上确定性地运行,配合固定随机种子、带日期的快照、样本上限,以及与供应商无关的回退机制,让学生能够审计每一项论断,并通过一份结构化的小型简报,把每一次实验都变成一条从问题到方法、到局限、再到建议的完整论证链。
一个治理实验课,应当两次运行都得到相同的结果。
生成式AI课程往往通过幻灯片和阅读材料来讲授治理,但一张幻灯片很难让人核查其中的论断。为CMU Heinz学院94-816课程《生成式AI:应用、影响与治理》,我构建了一套Colab notebook教材包,围绕一个更严格的理念展开:通过notebook来教授治理、工程与提示词设计,让"Run all"在免费硬件上两次运行都得到相同的结果,使学生能够检查得出某个结论所经过的每一个步骤。
课程拥有其自身的评估权
归属问题首先要说清楚。94-816是CMU Heinz学院的一门课程,教学团队拥有其教学大纲、评分细则和评分权。我是作为助教贡献了这套notebook教材包,因此本文描述的是我的设计与教学法,而评估材料、评分标准和考试内容仍归课程所有。这套设计之所以值得被描述,恰恰是因为即便被评分的具体内容留在课程内部不公开,这套方法本身依然可以迁移。
三个实验共享一套方法
这套教材包包含三个各自独立的notebook:一个关于AI治理,一个围绕检索增强生成构建的AI工程,还有一个关于提示词工程。每一个都可独立运行,每一个都以一个简短的研究设计框架开篇(一个问题、一个假设,以及明确陈述的解释局限),每一个都以同一种结构化简报收尾。治理notebook探究政策格局、风险分类和一项公平性检查;工程notebook演示数据摄取、分块、检索与本地生成答案的步骤,使学生能够检查流水线在哪里成功、在哪里失误;提示词notebook对比薄弱提示词与改进提示词,并运行一次受控的红队攻防演练。三个领域共享同一套方法,使学生能够把同一套纪律(设定框架、运行、检查、撰写简报)从治理带入工程,再带入提示词设计。
确定性让治理变得可教
当两名学生看到两种不同的输出、并围绕工具本身而不是问题展开争论时,一场治理讨论就会崩溃。这套教材包通过在每个notebook中暴露四项可复现性控制来解决这一问题:一个固定的SEED、一个MAX_SAMPLES上限、一个MAX_TOKENS预算,以及一个AS_OF_DATE。由于随机种子固定了随机性、样本上限限定了工作量,这些控制被设计成使一名学生的运行结果应当与另一名学生的相匹配,助教也能够依据一个稳定的结果来评分。确定性把一次实验变成了共享的证据:每个人都基于同一组数字展开论证,于是讨论得以转向治理层面的判断,而不是运行时的运气。
免费硬件让每一位学生都能参与
成本会悄悄决定谁能参与。一套要求付费GPU或个人API密钥的教材包,会把最没有支付能力的学生排除在外,因此这套设计默认使用免费的Colab CPU,并且在没有任何API密钥的情况下也能完整运行。可选的供应商部分支持OpenAI、Anthropic和Google的密钥以供比较,但空白密钥会优雅地跳过相应单元格,notebook依然能够完整运行。与供应商无关的回退机制对治理教学尤其重要:一堂关于可问责AI的课,应当避免把某一个供应商变成前提条件,不论某个供应商是否响应,学生都应当能够达成学习成果。
时效性需要一个带日期的快照
治理领域的事实会不断变化,因此一个把法律论断硬编码进去的notebook很容易过时。这套教材包用一种"实时检查加回退"的模式来应对:每个notebook都会尝试访问一个实时来源,一旦检查失败,就回退到一个带日期的快照,而不是中断运行。一个AS_OF_DATE字段为该快照打上时间戳,让读者清楚地知道某项论断是在何时是最新的。构建于2026-02-23的快照,追踪着诸如欧盟《人工智能法案》分阶段生效的义务、以及科罗拉多州SB24-205(经SB25B-004修订)这类不断变动的目标,而这种带日期的框架教授了一个诚实的习惯:引用法律时注明其截至日期,然后再重新核查来源。
一份小型简报把一次实验变成一项论证
一次运行产生输出;一项论证产生问责。每个notebook都以一份结构化的小型简报收尾,要求学生记录一个研究问题、一种方法、一些发现、若干局限、一项建议以及若干来源。这六个字段把一次实验,从一堆单元格输出,转变为一条可审计的推理链:问题为探究设定了框架,方法展示了学生是如何得出结论的,局限说明了证据未能支撑的部分,建议则给出了一个审阅者可以质疑的判断承诺。一项可选的JSON导出功能把这份简报打包成一件提交物,使这条推理链以另一位读者能够检查的形式流传。
治理素养生长于可验证的实践之中
单靠讲授,教授的是作为词汇的治理;一个可重复运行的实验,教授的是作为实践的治理。当一名学生修改一个提示词、观察到一次检索失误、看到一次注入攻击被拦截,然后写下这次局限时,这名学生学到的是把一项论断与一个被观察到的输出绑定在一起,而不是与一份自信满满的总结绑定在一起。这种习惯,证据优先、局限明说、判断自负其责,贯穿于我整个作品集。我的LectureForge课程教材工作把同样的纪律应用于教学材料:展示来源,记录工作流检查过什么,并让发布的最终权威始终留在人手中。以同样方式构建的治理课程,培养出的毕业生会在信任一项输出之前,先追问随机种子、日期和局限,而这正是教授治理这件事本身的全部意义所在。
局限
- 本文描述的是这套教材包的设计与教学法,而不是公开其评估材料;评分细则、评分标准和考试内容仍归课程所有。
- 94-816是CMU Heinz学院的一门课程;我是作为助教贡献了这套notebook教材包,课程的所有权仍归Heinz教学团队所有。
- 关于可复现性的论断描述的是这套教材包的设计意图:固定随机种子、带日期的快照和样本上限,旨在实现确定性的重复运行,而不是保证在每一种环境下都能得到逐比特完全相同的输出。
- 治理与法律方面的引用,反映的是构建快照所声明的时效日期,而不是经过独立的法律核实。
参考来源
- CMU Heinz学院面向公众的94-816课程列表,《生成式AI:应用、影响与治理》(公开课程说明)。
- 我在94-816课程中担任助教的角色,以及这套以可复现性为先的Colab notebook教材包的作者身份。
- 我的文章LectureForge课程教材工作流。
非公开的课程文件(notebook、教师指南和评分细则)为本文的描述提供了参考,但未被引用或摘录。