Mozilla

RSS: https://blog.mozilla.ai/rss/
blog.mozilla.ai

作为产品运营经理,我是这样用 Octonous 的

在,产品运营经理用 Octonous 自动化日常重复工作:每周从 GitHub 抓取发布记录生成用户通讯、通过 Slack emoji 触发竞品情报收集、将客户反馈自动转为格式规范的 GitHub issue。这些自动化把原本分散在多工具中的琐碎任务整合起来,节省出时间用于需要判断力的产品工作。
评论点赞收藏2 天前

llamafile v0.10.5

llamafile v0.10.5 is out, and it tracks a much more recent llama.cpp, which lets it run two models people have been using lately: Ternary Bonsai 27B and Poolside's Laguna-S-2.1. Both already existed a...
评论点赞收藏11 天前

前沿实验室如何打造微妙的开发者锁定效应

关于AI厂商锁定的讨论通常集中在模型权重、专有微调格式或自定义提示语法上。然而,随着前沿模型从简单的单回合完成引擎转向长期运行的多回合智能系统,前沿实验室正悄悄构建一种更深层次的锁定形式:状态和执行基础设施锁定。 OpenAI 最近的帖子,两个设置如何让我们的ARC-AGI-3分数翻了三倍,清楚地展示了这一转变。通过实现跨回合隐藏推理的持久性和自动上下文压缩,GPT-5.6 Sol的ARC-AGI...
评论点赞收藏16 天前

谁在乎大语言模型的成本?

你为什么要担心他们?大型语言模型承诺几乎无限的能力,担心电表感觉像是别人的问题。支持这部电影。让模型思考多久,对吧? 右。直到账单到来。 震惊 想象一下:你最好的聊天助手刚刚上线。几百次测试对话,一张你几乎不注意的账单,一个让团队兴奋的演示。你就发货。使用率会随着功能运行良好时的增长而上升。干得好,你!更多用户,更长的会话,存在一个代理循环,现在每个用户操作调用模型三到四次,而不是一次。没人会改...
评论点赞收藏17 天前

别追逐新模型:构建一次即可访问所有模型

发布了一台新的大型语言模型。它更快、更便宜、推理能力更好,或者更适合你的某个工作量。 产品团队想测试它。从外部看,这听起来像是改个型号名称然后做几次评估。 从平台或基础设施的角度来看,事情很少那么简单。 新型号可能通过你的应用不支持的供应商发布。这意味着还需要另一个SDK、认证方法、请求格式、错误模型、环境变量集以及提供者特定的行为集合。 真正的挑战是不能访问更多模型。它防止每一个新模式都变成另一...
评论点赞收藏20 天前

从评估到护栏:我们在 ACM FAccT 2026 上的实践

Mozilla 团队在 ACM FAccT 2026 分享了关于 LLM Guardrails 的研究。他们针对难民和庇护场景,使用母语者评估了 120 组多语言案例,发现静态规则无法处理事实核查等复杂问题。通过引入搜索和检索工具构建“Agentic Guardrails”,实验显示工具调用能显著改变判定结果,但也暴露出不同模型(如 Claude 与 GPT)在工具使用策略上的巨大差异。Mozilla 同时开源了 any-guardrail 和 Otari 网关,旨在让 Guardrails 像模型一样可配置和灵活切换。
评论点赞收藏25 天前

作为 AI 安全工程师如何使用 Octonous

团队展示 Octonous 在 AI 安全工程师工作流中的作用,包括自动监控库文件和跟踪 AI 安全领域的最新进展。目的是削减日常琐事。 内容侧重于内部工具对特定岗位工作流的优化,属于企业效能案例,对于外部读者而言,其技术借鉴意义和讨论价值相对有限。
评论点赞收藏37 天前

AI 下一个时代的关键在于基础设施,而非仅仅是模型

发布文章认为 AI 竞争焦点已从模型能力转向基础设施控制层。指出多模型部署导致碎片化、成本不透明及治理缺失问题。 文章介绍了其开源项目 Otari,旨在提供统一的 LLM 控制平面,解决企业在生产环境中对 AI 的成本、合规与路由管理需求。
评论点赞收藏37 天前

Otari:开源的大语言模型控制平面

发布开源项目 Otari,旨在为多 LLM 提供商提供统一的基础设施管理平台。支持路由、预算控制和故障转移等功能。 这是典型的机构产品发布通稿,缺乏技术深度或独立评测,主要面向开发者推广其开源工具。
评论点赞收藏40 天前

Mozilla.ai 发布开源 C++ 语音转文本库 transcribe.cpp

发布了 transcribe.cpp,一个基于 ggml 运行时的开源 C/C++ 语音转文本推理库。它支持 Metal、Vulkan 和 CUDA 后端,旨在解决现有 STT 模型在便携性和 GPU 加速上的痛点。 该库是 Mozilla Builders in Residence 项目的独立成果,允许开发者轻松将本地转录功能集成到应用中,或通过 Handy 应用直接体验。
评论点赞收藏44 天前

作为产品经理如何使用 Octonous

介绍内部工具 Octonous 在产品管理中的应用,包括将 Slack 反馈转化为 GitHub Issue 以及跨工具上下文查找。旨在减少日常产品工作的开销。 这是一篇典型的内部工具效能分享,展示了自动化工作流如何提升团队协作效率,但缺乏对外部开发者具有普适性的技术深度或创新方法论。
评论点赞收藏47 天前

Encoderfile 新增图像分类功能

Encoderfile 新增图像分类功能,支持将视觉模型打包为单一可执行文件。用户只需提供文件路径即可输出标签,无需 Python 运行时或复杂的部署基础设施。 这简化了边缘端或轻量级场景下的模型部署流程,适合希望快速集成 AI 能力但又不想维护复杂服务架构的开发团队。
评论点赞收藏53 天前

What Is an LLM Control Plane?

An agent stuck in a reasoning loop doesn't crash. It just quietly burns through your monthly budget until someone notices the bill. A week later, a provider has an outage and your app goes down with i...
评论点赞收藏64 天前

Otari: Own Your AI Stack

Meet Otari, an open-source LLM gateway powered by any-llm, and, the hosted platform built on the same foundation. Run frontier or open-weights models through one API with usage tracking, budget contro...
评论点赞收藏78 天前

AI Got Expensive. Now What?

Cloud AI pricing changed fast in 2026. This post looks at why more teams are moving back to local models, the tradeoffs behind tools like Ollama and LM Studio, and why portability and ownership are be...
评论点赞收藏81 天前

The interface is no Longer the product

The future of AI may not be agents using today’s apps. It may be apps rebuilt around structured representations agents can inspect, modify, and validate directly. The deck, doc, or dashboard becomes t...
评论点赞收藏88 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。