Liquid

Liquid AI，MIT 衍生 AI 公司，基于液态神经网络构建新一代基础模型。

模型到底多有效地在用它的记忆？（2025）

Liquid 团队提出 Effective State-Size（ESS），用来衡量深度学习序列模型（attention、SSM、gated conv 等）在相同状态/缓存大小下真正"用了多少记忆"。 核心思想：这些模型可写成 y = T(u)u，其中 T(u) 是输入相关矩阵；扩展经典信号处理结论后，证明任何等价递推实现的状态大小至少要达到 T(u) 子矩阵的秩，这个秩就是 ESS。 由此得到几条实用结论：ESS 高的模型更难蒸馏到更小状态的学生模型；ESS 能指导初始化与特征化以提升召回性能；把 ESS 逐时间步跟踪可看到模型如何随上下文调整记忆使用（例如 EOS token 附近变化更明显的 LLM 在召回密集任务上表现更好）。 论文已被 ICML 2025 接收，全文在 arXiv 2504.19561。
评论点赞收藏14 天前

Pipette：端侧智能基准测试工具

Liquid AI 发布开源工具 Pipette，用于在端侧设备上基准测试大模型性能。平台提供 1000+ 模型×量化×运行时×设备×上下文配置的真实数据，含交互式排行榜和 macOS/Windows/iOS/Android 客户端。 核心观点：端侧表现是部署系统的属性，而非模型本身——同一模型在不同量化、运行时、设备上差异巨大。文章用具体数据展示了上下文扩展、稀疏激活、速度-质量权衡等实际案例。
评论点赞收藏37 天前

LFM2.5-DSpark：推理速度最高提升3.2倍，从H100到MacBook

Liquid AI开源DSpark投机解码草稿模型，为LFM2.5系列三个模型（1.2B/2.6B/8B-A1B）提供最高3.18倍GPU吞吐提升和2.87倍MacBook端侧加速，且保持与基线贪婪解码完全一致的输出质量。 DSpark结合DFlash并行骨干、Markov链轻量顺序头和置信度调度验证器三个组件，已在llama.cpp和SGLang上游开源。2.6B模型在M4 Max上函数调用延迟降低57%，1.2B非推理模型在不同数据集上速度提升波动达52%。 8B-A1B在端侧仅获18%提升，作者归因于llama.cpp Metal后端MoE实现限制，承认是后续工作方向。
评论点赞收藏40 天前

为生产级工作设计 Agent 迭代循环

Liquid AI 让 Claude Opus 4.5 和 GPT-5.2 从零独立构建生产级 BPE tokenizer 训练器 toktoktok，两者零样本都只能跑通玩具版本，经过多轮迭代后 Claude 成功完成，开源代码全部由 Agent 编写且无人工阅读。 核心经验：给 Agent 的规格应描述目标和约束而非实现细节，验证必须用外部不可篡改的测试工具，且必须在真实生产数据规模上迭代才能暴露真正问题。
评论点赞收藏42 天前

LFM2.5-VL-3B：面向边缘设备的高效视觉语言模型

Liquid AI 发布开源视觉语言模型 LFM2.5-VL-3B，31 亿参数，在屏幕理解、函数调用、多图输入和 grounding 四项能力上相比上一代大幅提升。 在 Apple M5 Max 上解码速度达 228 tokens/s，内存占用约 3GB，甚至在 Galaxy S26 Ultra 手机上也能以 20 tokens/s 运行。在 ScreenSpot-v2 上得分 80.7，超越 Gemma-4-E4B 和 Qwen 3.5 4B，接近 InternVL-3.5-4B。 模型已在 Hugging Face 开源，支持 llama.cpp、MLX、vLLM、SGLang、ONNX 等多种推理框架。
评论点赞收藏49 天前

Tokenizer 扩展：原地升级模型的 Tokenizer

Liquid AI 分享在 LFM2.5-8B-A1B 模型中原地扩展 Tokenizer 的技术方案。通过将词汇表从 65K 增至 128K，在不重新训练模型的前提下，显著降低了印地语、越南语等语言的 token 碎片化，使端侧解码速度提升 2.2 至 3.7 倍。 该方法通过冻结原参数、仅训练新嵌入及两阶段微调，实现了多语言性能提升且未损害原有能力，为端侧大模型优化提供了具体工程参考。
评论点赞收藏71 天前

利用最终令牌偏好优化减少“死循环”现象

Liquid AI 提出 Antidoom 方法，通过最终令牌偏好优化（FTPO）解决推理模型中的重复死循环问题。该方法针对性地训练模型在特定位置选择不同令牌，显著降低了 LFM2.5 和 Qwen3.5 模型的循环率并提升了评估分数。
评论点赞收藏85 天前

LFM2-24B-A2B：扩展 LFM2 架构

Liquid AI 发布 LFM2-24B-A2B，采用稀疏 MoE 架构，总参数量 240 亿，每 token 仅激活 23 亿。模型混合使用门控短卷积与分组查询注意力，通过加深层数（40层）和增加专家数（64个）实现扩展，保持低激活参数以适配边缘设备。 基准测试显示性能对数线性增长，在 H100 上 vLLM 推理吞吐达 26.8K tokens/s，超越同级 MoE 模型。权重已开放下载，支持 llama.cpp、vLLM、SGLang，可在消费级笔记本上运行。
评论点赞收藏153 天前

LFM2.5-VL-450M：结构化视觉智能，从边缘到云端

Liquid AI 发布 LFM2.5-VL-450M 视觉语言模型，新增目标检测与定位能力，预训练规模从 10T 提升至 28T tokens。RefCOCO-M 定位精度达 81.28，多语言图像理解覆盖 8 种语言，指令遵循能力提升至 45.00。 在 Jetson Orin 边缘设备上，512×512 图像推理仅需 250ms，可支撑 4 FPS 视频流的实时理解。适用于工业自动化、可穿戴监控、零售电商等高吞吐场景，兼顾隐私与低延迟需求。
评论点赞收藏156 天前

LFM2.5-350M：小模型，不设限

Liquid AI 发布 LFM2.5-350M，仅 350M 参数，经 28T tokens 预训练与大规模强化学习后，在知识、指令遵循、数据提取和工具调用等基准上超越多款 2 倍体量模型。 支持 llama.cpp、MLX、vLLM 等主流框架，覆盖树莓派到 H100 全平台，峰值吞吐达 40.4K tok/s。AMD、高通、英特尔、苹果 Silicon 等生态伙伴同步提供优化支持，Distil Labs 微调后多轮工具调用准确率超 95%。
评论点赞收藏182 天前

无云无等待：消费级硬件上的工具调用代理 LFM2-24B-A2B

Liquid 发布 LFM2-24B-A2B，一个专为消费级硬件本地工具调用设计的模型。在 Apple M4 Max（36GB）上，它平均仅需 385ms 即可完成工具选择，内存占用约 14.5GB，完全离线运行。 基于 67 个工具、13 个 MCP 服务器的测试中，单步工具选择准确率达 80%，日历与审计类任务达 100%。文章配套开源桌面应用 LocalCowork，展示了安全扫描、审计追踪、文档处理、剪贴板访问等全本地工作流。 多步链完成率 26%，适合作为快速调度器而非全自动代理。适合关注本地 AI、隐私合规、低延迟工具调用的开发者参考。
评论点赞收藏209 天前

Liquid推出可直接在日用设备上运行的小型基础模型

Liquid AI发布Nanos系列超小型基础模型（3.5亿至26亿参数），可在手机、笔记本等日常设备本地运行，在数据提取、翻译、数学推理、工具调用等专项任务上媲美GPT-4o，但体积仅为后者的数百分之一。 Liquid称本地推理可降低50倍成本、减少100倍能耗，并推演了10M用户×1B智能体的经济模型。已发布六款任务专用模型，获Shopify、AMD、Deloitte高管公开背书，现通过LEAP平台和Hugging Face开放获取。
评论点赞收藏355 天前

Liquid Nanos：日常设备上的前沿级性能

Liquid AI 推出 Liquid Nanos 系列小模型（3.5亿–26亿参数），主打在手机、笔记本等终端设备上直接运行，完成数据抽取、翻译、RAG问答、工具调用、数学推理等专项任务，性能可对标数百倍参数的大模型。 文章逐一介绍六款任务专用模型及其基准评测结果，强调端侧部署在成本、延迟、隐私和离线场景中的优势，并开放模型许可供学术和商业使用。
评论点赞收藏369 天前

LFM2-VL：高效视觉语言模型

Liquid AI 发布首款视觉语言基础模型 LFM2-VL，主打低延迟与端侧部署，提供 450M 和 1.6B 两个版本。架构由 LFM2 语言骨干、SigLIP2 视觉编码器和多层投影器组成，支持原生分辨率处理和用户可调的速度-质量权衡。 GPU 推理速度比竞品快至 2 倍，在多项 VL 基准上表现有竞争力。模型已在 Hugging Face 以开放许可发布，适用于学术及小型商业用途。
评论点赞收藏413 天前

LFM-7B：为高效语言模型树立新标杆

Liquid AI 发布 LFM-7B，一款基于非 Transformer 架构的 7.7B 参数语言模型，在同尺寸模型中内存占用最低、推理速度最快。该模型在英语、阿拉伯语、日语对话评测中均领先同级竞品，涵盖 MMLU、HellaSwag、HumanEval 等 13 项基准测试。 有效上下文 32k，长文本检索推理表现扎实。面向私有化聊天、代码生成、指令遵循及智能体工作流等企业场景，支持本地部署与微调，已上线 Liquid Playground 和 AWS Marketplace。
评论点赞收藏617 天前

Liquid AI 获 2.5 亿美元融资，规模化高效通用人工智能

Liquid AI 宣布完成 2.5 亿美元 A 轮融资，AMD 为重要合作方。公司主打轻量级通用 AI 模型（LFM），强调私密性、高效性和企业级可靠性。 融资将用于扩展算力基础设施、边缘与本地推理部署，以及多模态模型研发。目标行业覆盖消费电子、电信、金融、电商和生物技术。这是一篇带有招聘意图的企业融资公告，信息密度一般，但融资规模和 AMD 背书有一定新闻性。
评论点赞收藏655 天前

基于定向进化的自动化架构合成

Liquid AI推出STAR系统，基于进化算法与线性输入变参系统（LIV）设计理论自动合成神经网络架构。架构被编码为层级数字基因组，仅需2-3轮进化即可生成超越Transformer和混合基线的定制模型。 支持质量、参数效率、缓存效率及硬件延迟等多目标联合优化，命中率超90%，生成周期不到一天，且能自然涌现新颖的架构模式与连接策略。
评论点赞收藏666 天前

Liquid 基础模型：我们的首代生成式 AI 模型系列

Liquid AI 发布首代 Liquid 基础模型（LFM），包含 1.3B、3.1B 密集模型和 40.3B MoE 模型。LFM 基于动力系统与信号处理理论构建，在 1B 级别首次以非 Transformer 架构显著超越 GPT 类模型；3B 模型以更小体积匹敌 Phi-3.5-mini；40B MoE 仅激活 12B 参数即可对标更大模型。 LFM 内存占用随上下文增长近乎恒定，有效上下文达 32k，适合边缘部署与长文档任务。当前短板包括零样本代码、精确数值计算等。
评论点赞收藏730 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。

热门话题

人工智能12,865 人关注AI 会怎样改变日常工作？产品思考8,243 人关注怎样判断一个产品值得长期做？独立开发5,917 人关注一个人如何持续完成作品？
关于芦苇 · 联系我们 · © 2026 芦苇