Thinking Machines Lab

RSS: https://thinkingmachines.ai/index.xml
Thinking Machines Lab,专注于 AI 能力评估与对齐的研究机构。

Inkling-Small:12B激活参数的MoE模型以四分之一体积实现与Inkling相当的性能

Thinking Machines Lab发布开源权重模型Inkling-Small,12B激活参数、276B总参数的混合专家架构模型在推理和智能体任务上达到与41B激活参数Inling相当甚至更优的水平。 该模型支持音频/图像原生推理、最高1M token上下文窗口,并可在Tinker平台进行微调及多模态对话。 Inkling-Small在Humanity's Last Exam得分31.6%(高于Inkling的29.7%),SWEBench-Verified超过80%,在Terminal-Bench 2.1等基准测试中展现出比同尺寸模型更高的性能-计算效率比。模型采用可调节的思考强度机制,允许用户根据场景平衡成本与性能。
评论点赞收藏16 天前

Murati创办公司发布开源975B参数大模型Inkling

Ismail Murati创办的Thinking Machines Lab发布开源权重大模型Inkling。该模型采用MoE架构,总参数975B,激活参数41B,支持文本、图像和音频多模态输入,上下文窗口达1M tokens。亮点包括原生语音处理、可控思考时间以平衡速度与性能,以及校准过的置信度预测。提供Tinker训练平台供微调。
评论点赞收藏31 天前

Inkling:我们的开源权重模型

Thinking Machines Lab发布开源权重模型Inkling,975B参数(41B激活),支持1M上下文及原生多模态推理。亮点在于可控思考效率,能以更少Token达到同等性能。在预测校准、指令遵循及安全拒绝方面表现强劲,适合需要深度定制和低成本部署的技术团队。
评论点赞收藏31 天前

值得构建的未来以人为本:Thinking Machines Lab 的技术哲学

“思维机器”的使命,是打造能够延伸人类意志与判断力的人工智能。 如今,人工智能的性能日益提升,但究竟由谁来决定其发展方向,则取决于我们——无论是个人、 组织,还是整个人类。这些决策需要人们通过持续接触工作实践而获得的知识与判断力, 而这些工作往往正越来越多地与人工智能协同完成。 塑造先进智能的目标,同样是一个不断反馈、不断学习、不断调整的过程。 当今市面上大多数人工智能都是在少数几个特定领域进...
评论点赞收藏33 天前

桥水团队实战:如何用专家数据微调模型,超越前沿大模型

Thinking Machines Lab 团队利用桥水基金专家标注的高质量数据,微调了基于 Qwen3-235B 的模型。实验显示,该定制模型在金融文档过滤等六项任务上的准确率(84.7%)超越了 Gemini、Claude 和 GPT 等前沿模型,且推理成本降低了 13.8 倍。 文章详细披露了训练技巧,包括交错批处理、CISPO 损失函数以及在线策略蒸馏。这证明了在特定垂直领域,针对组织需求定制的“差异化智能”模型,比通用大模型更具性价比和实用性。
评论点赞收藏46 天前

交互模型:实时人工智能协作框架

提出新型交互模型架构,实现AI与人类在音频、视频、文本模态下的实时协同。通过微回合流式处理突破传统问答模式,支持打断、并发对话等自然交互行为,并在智能性和响应速度上达到行业领先。
评论点赞收藏96 天前

On-Policy [LLM] Distillation

LLMs are capable of expert performance in focused domains, a result of several capabilities stacked together: perception of input, knowledge retrieval, plan selection, and reliable execution. This req...
评论点赞收藏101 天前

训练大语言模型预测世界事件

本文展示了如何通过任务特定的强化学习微调,将开源大语言模型 gpt-oss-120b 的预测能力提升至与前沿闭源模型相当的水平,并在集成预测中发挥关键作用。
评论点赞收藏125 天前

Tinker:机器学习研究项目征集

Thinking Machines Lab 推出 Tinker 平台,公开征集社区机器学习研究项目,涵盖算法复现、新型训练方法、跨领域应用等,并提供多个具体研究建议,鼓励高质量实验与开源分享。
评论点赞收藏270 天前

Tinker by Thinking Machines

Tinker 是 Thinking Machines 推出的训练 API,通过四个核心函数简化模型训练流程,支持多种开源模型与 LoRA 高效微调,屏蔽基础设施细节,帮助研究者和开发者快速迭代。
评论点赞收藏318 天前

模块化流形:将神经网络权重约束在数学流形上以实现稳定训练

本文提出将神经网络权重矩阵约束在数学流形(如Stiefel流形)上,以控制张量范数、奇异值和条件数,从而稳定训练。介绍了一种新颖的“流形Muon”优化器,结合谱范数约束与流形几何,提供可预测的更新步长和更强的鲁棒性。还提出了“模块化流形”概念,作为构建和训练大型网络的组合框架。
评论点赞收藏323 天前

战胜 LLM 推理中的非确定性

本文深入剖析大语言模型推理非确定性的根源,推翻“并发+浮点”假说,揭示批处理大小波动才是主因。提出通过实现核函数的批不变性来达成可复现推理,为LLM部署提供实用优化方向。
评论点赞收藏339 天前

Thinking Machines Lab

AI研究公司Thinking Machines Lab发布公开信,宣布其使命是构建更广泛理解、可定制且能力更强的AI系统。团队曾开发ChatGPT、、PyTorch等主流AI产品,强调科学共享、人机协作、模型智能、基础设施质量及多模态能力,并计划通过技术博客、论文和代码与社区合作推进AI发展。
评论点赞收藏543 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。