Inkling：Thinking Machines Lab 的首个开源多模态模型

Inkling：我们的开放权重模型——米拉·穆拉蒂的“思维机器实验室”刚刚发布了其首个开放权重模型。 Inkling 是一款“由专家混合架构构成的 Transformer 模型，总参数量达 9750 亿个，其中活跃参数为 410 亿”——这款模型采用 Apache-2.0 许可协议，基于 45 万亿个文本、图像、音频和视频令牌进行训练。 他们还推出了 Inkling-Small，该模型拥有 2760 亿个参数（其中 120 亿个为活跃参数），但目前仍在测试中，相关权重将在“相关工作完成后”正式发布。 与我此前对美国人工智能实验室所期待的模型卡片相比，Inkling 的卡片要短得多。它链接到了更简短的“训练数据文档”，却几乎没有任何值得关注的内容——最合适的概括方式可以归结为以下两段话： 思维机器实验室用于开发其人工智能服务的数据集，既包括属于公共领域的内容， 也包含可能受知识产权保护的内容。思维机器实验室的服务是基于从开放互联网及公开可访问的数据存储库中获取的公开可用内容开发而成的。 此外，部分数据集还来自第三方。正如思维机器实验室自己所承认的那样，这并不是一项前沿级的模型， 而是旨在作为强大的基础模型，通过其自主研发的 Tinker 训练平台进行微调。Inkling 并不是当今市面上整体实力最强的模型——无论是开放版还是封闭版。 相反，正是诸多特质的综合运用，使其成为高度可定制化的开放权重基础模型：具备多模态能力、 高效思考能力，并且可在 Tinker 平台上轻松实现微调。这次发布的成果令人赞不绝口：它采用 Apache-2.0 许可协议，与来自中国的开放权重模型相比颇具竞争力——看到美国的开放权重生态系统又多了一位极具潜力的新竞争者， 与 NVIDIA Nemotron 和 Gemma 4 相抗衡，实在令人欣慰。以下是它尝试创作的一幅 SVG 风格的鹈鹕骑自行车的图案，我使用了这个 curl 命令，基于思维机器 API 进行生成：curl “”tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions “-H “Authorization: Bearer $TINKER_API_KEY” -H “Content-Type: application/json” -d ‘ { “model”: “thinkingmachines/Inkling”, “messages”: [ { “role”: “user”, “content”: “生成一张鹈鹕骑自行车的 SVG 图片” } ], “stream”: false } ’ 完整响应请见此处。由于这是一个多模态模型，我通过发送以下 JSON 数据来让其对自身生成的图像进行描述（在将其渲染为 JPEG 后）：{ “model”: “thinkingmachines/Inkling”, “messages”: [{ “role”: “user”, “content”: [{ “type”: “image_url”, “image_url”: { “url”: “ data:image/jpeg;base64,$BASE_64_JPEG ” }}, { “type”: “text”, “text”: “ 请详细描述这张图片。” } ], }], “stream”: false } 这里是完整的响应。模型认为它画出了一只“鹳鸟或海鸥”：这是一幅欢快、采用扁平向量风格的卡通插图， 描绘了一只白色鸟类骑着自行车穿梭于一片绿色的景观之中。 鸟儿：画面的中心是一位程式化的白色鸟类——外形酷似鹳鸟或海鸥——身体圆润饱满。 它有一只又长又突出的橙色鸟喙，微微张开，露出一条黑色的嘴线。 它的双眼小巧而漆黑，点缀着一抹细小的白色光斑。 鸟的翅膀和尾羽呈黑色，边缘洁白，纤细的橙色腿末端是黑色的脚，稳稳地踩在自行车那橙色的踏板上。 自行车：自行车的车架简洁黑色，配有两个硕大的车轮，车轮外胎为黑色，内圈为灰色， 辐条以十字形排列。车把为黑色，车轮上还装有醒目的橙色踏板，与黑色曲柄相连。 鸟的身体后方隐约可见一个白色的座垫。 场景：画面背景是一片澄澈明亮的蓝天。 天空中飘浮着两朵蓬松的白色云朵——左侧有一朵较大的云，右侧则有一朵更小的云， 靠近鸟的头部。右上角洒下一轮明亮而坚实的黄色阳光。 画面底部是一片连绵起伏的绿色山丘，山丘的顶部平滑而弧度自然，自行车就安放在那里。 整体风格活泼、简约且色彩丰富，线条干净利落，营造出明亮而阳光明媚的氛围。 通过 Hacker News 标签：AI、生成式AI、大语言模型、训练数据、骑自行车的鹈鹕、大语言模型发布