卡神:我们将花越来越多的时间理解AI的输出

卡神今日发推:“我们将花越来越多的时间,尝试理解语言模型的输出。”他的判断是:模型会承担越来越多的自主执行工作,人类则花更多精力监督、弄懂它做了什么。因此,模型怎样向人解释结果,会变得特别重要他提了四种表达方式:更清楚的文字:借鉴航空维修文档的受控英语,减少歧义和复杂措辞图示:把结构和关系直接画出来交互网页:让你自己操作、探索,看懂不同条件怎样影响结果定制讲解视频:针对你的具体问题,临时生成图像、动画和配音。这是他尤其看好的方向还有一个有意思的观点:当代码和内容生成足够便宜时,可以只为“帮你理解这一件事”做一个网页或视频,用完就丢。过去这样做太贵,现在开始值得了我的理解是:可以尝试通过AGENTS.md来约束LLM输出的语言规范,然后使用skills来做图示、交互网页、讲解视频的输出附上我的skill:Human Control Layer(帮助你理解项目当前的全貌)如果你有相关的skill,欢迎评论区推荐💡
评论1
?
参与讨论
我的两个skill:Human Diff 聚焦变更前的决策;Human Control Layer 则帮助你理解项目当前的全貌。欢迎自取: https://github.com/jbwu091-jdbsh/human-diff https://github.com/jbwu091-jdbsh/human-control-layer
5小时前
2回复