模型可以下载,设备仍有门槛
Thinking Machines Lab 11 月 20 日发布 Inkling 2 Mini,开放权重并在 Tinker 提供推理与定制。官方模型卡明确采用 Apache 2.0 许可,支持文字、图片输入和文字输出。发布说明给出的模型内存占用约为 20 GB,首发支持通过 Ollama 在至少 32 GB 内存的 Mac 上运行。这里的模型占用和整机内存要求是两个口径,不能据此保证任意笔记本都能流畅使用。
循环计算并不增加事实储备
它是总参数 264 亿的混合专家模型,中间层对每个词元重复运行三次。官方解释,这种方式增加计算深度,但不会让权重存入更多事实。研究团队展示了在飞机上离线生成飞行模拟器的案例;这是厂商演示,不是本站实测,也不代表所有任务都能离线完成。面向中文文件与编码工作的使用者,适合先用自己的样本检查输出和工具调用,再决定是否接入日常流程;若任务需要外部搜索,本地生成也不等于整个流程都不联网。
via: Announcement, Model card