评论
点赞
收藏JEPA模型背后的90年旧思想：典型相关分析
文章深入探讨了JEPA模型与90年前提出的典型相关分析（CCA）之间的数学联系，指出JEPA本质上是CCA的非线性推广。作者通过公式推导分析了两者在目标函数上的异同，特别是白化约束的缺失导致的表示坍缩问题，并引用了Schmidhuber与LeCun关于JEPA发明权的争论，认为JEPA是在CCA基础上的架构增强。
又一个买房与租房计算器：拆解其背后的假设与局限
买房与租房之间的选择往往引发诸多争议。 有人认为，购房是通往财富之路的明智之选——这一观点基于大量数据的支撑：数据显示， 房主的财富水平普遍高于租房者。然而，相关性并不等于因果关系。 房屋向来价格不菲，而且大多数情况下，购房所需的现金流远超租房。 那么，究竟是买房让自己更富有，还是真正富有的人会买房呢？ 计算器的目的，就在于准确判断：买房与租房，究竟哪一种方式能让你更加富有？ 以下是几种现有的计... 
如何在Quarto博客中运行ONNX模型
作者分享了在Quarto博客中集成ONNX模型的完整技术流程，包括PyTorch模型导出、使用onnxruntime-web在浏览器端加载推理，以及通过CDN引入JS库避免构建步骤的具体代码实现和注意事项。
一个小型JEPA词嵌入模型
作者使用SIGReg正则化训练了一个小型联合嵌入预测架构(JEPA)模型，在莎士比亚数据集上生成词向量。文章展示了模型能学习到具有语义聚类（如角色名、头衔）的嵌入空间，并对比了Word2vec等传统方法，认为JEPA实现更简单且避免了维度坍缩。 
详解 SIGReg：一种用于自监督学习的各向同性高斯正则化方法
深入解析 Yann LeCun 团队提出的 SIGReg 正则化方法，通过特征函数和随机投影实现潜在空间的各向同性高斯分布，包含详细的数学推导与可运行的代码演示。 