TBPN订阅

第三方评估机构之争

周三快乐。

我们正在直播YouTube以及𝕏.

目前科技和商业领域的趋势是Zuck对AI减速辩论的回应。

今日阵容

Circle联合创始人兼首席执行官杰里米·阿莱尔下午12：00
Theory Ventures 普通合伙人托马什·通古兹下午12：10
Rune 联合创始人兼首席执行官威廉·莱登下午12：25
ReynKo 创始人兼首席执行官贾斯汀·贝罗兹下午12：40
Footprint联合创始人兼首席执行官伊莱·瓦克斯下午12：50
BackOps 联合创始人兼首席执行官肖恩·麦卡锡下午1：00
Impulse Space 创始人、首席执行官兼首席技术官汤姆·穆勒下午1：10

演出连载

第三方评估者

作为纽约邮政崩溃随着METR可能成为“精选的人工智能监督者”，以及a16z的马丁·卡萨多推动能源部的介入，关于谁真正有能力胜任这项工作，引发了一场小范围的争论。

在达里奥的我们必须在边境前行他只说Anthropic承诺引进METR，他并没有真正推动METR成为唯一的选择。

这就是两个极端，METR自成立以来就深深植根于人工智能安全话语中，一些团队成员甚至在多年前提出了与此刻相关的具体愿景。能源部负责核武器监管......我实在想不出有哪个能源部高调员工会在X上发表深思熟虑的人工智能安全观点。

但这当然是优势，政府官僚体系设计成政府的一个分支，尽量减少与其监管的私营实体的联系。不过旋转门确实时有出现，且对可接受的界限有一定。

需要记住的是，当原子能委员会成立以监督核能开发时，许多预测该技术重要性和风险的科学家也参与其中，但通常只是作为咨询方，而非直接监管者。

奥本海默成为原子能委员会总咨询委员会主席，该委员会影响力巨大，但不发放许可。恩里科·费米和格伦·西博格成为委员会成员，西博格后来成为原子能委员会主席。

爱德华·特勒是最奇特的例子。他最初是氢弹（即加速主义）最坚定的支持者之一，但最终成为原子能委员会反应堆安全委员会的首任主席。

如今，核监管者才华横溢且勤奋，但他们不再被要求预测未来数十年的风险。职位多样：核工程师、机械工程师、材料科学家、物理学家、健康物理学家、地质学家、概率风险分析师、网络安全专家、应急准备专家、律师和检查员。

许多NRC技术人员职位的薪酬在125,000美元到187,000美元之间。海军士兵22岁时在潜艇上管理核反应堆。随后他们接受大约一年半的专业核训练：核能“A”级学校，约六个月核动力学校，以及约六个月的原型实操训练，然后才进入舰队。

核动力学院涵盖数学、核物理、反应堆原理、健康物理、材料、热力学、电气系统和反应堆技术。

很容易将人工智能安全工作的范围缩小到只包括少数“有在前沿实验室训练模型的真实经验”的人工智能研究人员，但我认为这对许多人来说会很难接受，因为存在利益冲突。

这些人将在未来的人工智能监管中占据非常重要的位置，但不要忽视数百万有才华的美国人，他们可以快速培训，帮助解决出现的棘手问题。