寻找最优分词器：基于割平面法的工程实践
作者利用割平面法（Cutting Planes）和整数线性规划，在特定数据集上实现了理论上难解的最优Tokenizer搜索。文章详细记录了从建模到利用Codex辅助发现“循环约束”的工程过程，并探讨了其在实际LLM训练中的局限性与未来扩展方向。
aqnichol Blog
aqnichol 的博客，关于技术、编程与软件开发。
评论
点赞
收藏一个用于自动退订垃圾邮件的AI智能体
作者构建了一个AI智能体，通过Gmail API识别邮件中的退订链接，并利用AI控制浏览器自动处理复杂的退订页面流程。文章详细展示了技术实现细节、提示词工程、模拟测试结果以及在真实邮件中的表现，并探讨了AI Agent在自动化任务中的鲁棒性问题及未来可能出现的提示注入对抗。
Honeycrisp：一个原生Apple优先的深度学习框架
作者介绍其使用Swift开发的深度学习框架Honeycrisp。文章详细对比了该框架与Apple官方MLX在架构设计上的差异，强调Honeycrisp原生支持Swift并发模型、模块化后端（GPU/ANE/CPU混合调度）以及利用Swift特性实现的带栈追踪的错误处理机制。作者分享了在Mac Studio上训练文本生成图像模型的实战经验，并深入探讨了自动微分、模型序列化及性能调优等技术细节。