排名投票真的更好吗?
排名投票无法消除中间候选人被挤压的问题。一维空间模型验证显示,即时决选(IRV)、博尔达计数、孔多塞及其完成方法(BTR-IRV、舒尔策、排序配对)中,中间候选人依然可能被挤出。 结论基于与单一标记选票实验相同的选民分布和代码模型。
What’s Wrong With Your Voting System?
The way we vote is central to democracy. Most places currently have you mark only one candidate on the ballot (single-marked ballots) and the candidate with the most votes wins (plurality voting/first...
An Interactive Introduction To Gradient Descent (How LLMs Learn)
At the root of Large Language Models, deep learning, neural networks, and artificial intelligence is “Gradient Descent”. These models work by minimizing the error between a model’s predictions and kno...
Neural Cellular Automata and Recurrent Architectures
Conway’s Game of Life Here’s Wikipedia’s description of Conway’s Game of Life: The universe of the Game of Life is an infinite, two-dimensional orthogonal grid of square cells, each of which is in one...
JEPA模型背后的90年旧思想:典型相关分析
文章深入探讨了JEPA模型与90年前提出的典型相关分析(CCA)之间的数学联系,指出JEPA本质上是CCA的非线性推广。作者通过公式推导分析了两者在目标函数上的异同,特别是白化约束的缺失导致的表示坍缩问题,并引用了Schmidhuber与LeCun关于JEPA发明权的争论,认为JEPA是在CCA基础上的架构增强。
又一个买房与租房计算器:拆解其背后的假设与局限
<p>买房与租房之间的选择往往引发诸多争议。 有人认为,购房是通往财富之路的明智之选——这一观点基于大量数据的支撑:数据显示, 房主的财富水平普遍高于租房者。然而,相关性并不等于因果关系。 房屋向来价格不菲,而且大多数情况下,购房所需的现金流远超租房。 那么,究竟是买房让自己更富有,还是真正富有的人会买房呢? 计算器的目的,就在于准确判断:买房与租房,究竟哪一种方式能让你更加富有?</p><p>以下是几种现有的计算器:</p><p>1. </p><p>2. </p><p>3. </p><p>4. </p><p>这些计算器通常采用较为简单的计算方法,不过我无法对所有计算器作出全面评价,也无法保证其准确性。</p><p>其基本计算方法如下:假设两位收入完全相同的个体,一位通过按揭贷款购买房产, 另一位则选择租房居住。在每个时间段内,未被使用的收入都会被投入投资。 多年之后,我们将比较两人在该时间段内能够变现的资产(即房产及各类投资)的价值。 实际上,这意味着我们需要为每位个体在每个时间段计算现金流,并使两人的收入都达到二者中…</p> 

如何在Quarto博客中运行ONNX模型
作者分享了在Quarto博客中集成ONNX模型的完整技术流程,包括PyTorch模型导出、使用onnxruntime-web在浏览器端加载推理,以及通过CDN引入JS库避免构建步骤的具体代码实现和注意事项。
一个小型JEPA词嵌入模型
作者使用SIGReg正则化训练了一个小型联合嵌入预测架构(JEPA)模型,在莎士比亚数据集上生成词向量。文章展示了模型能学习到具有语义聚类(如角色名、头衔)的嵌入空间,并对比了Word2vec等传统方法,认为JEPA实现更简单且避免了维度坍缩。 

详解 SIGReg:一种用于自监督学习的各向同性高斯正则化方法
深入解析 Yann LeCun 团队提出的 SIGReg 正则化方法,通过特征函数和随机投影实现潜在空间的各向同性高斯分布,包含详细的数学推导与可运行的代码演示。 
