右键菜单里的本地模型 —— Foundation Models 适合干杂活

翻完 Apple Intelligence 的系统 prompt，我冒出一个念头：「怎么感觉自己写一个 automator 的 text services，调用本地部署的第三方模型来使用这些 prompt，会比苹果自家的 foundation models 表现更好？」prompt 是现成的，缺的只是一个更大的模型，比如本地跑的 14B，挂在右键菜单的“服务”里。

这件事以前不好做。「所谓的「实时润色」，从前这种构想因为隐私原因无法实现」，打一个字就往云端送一次，没人放心。模型搬到本机，顾虑就没了。

这两周我在读 Foundation Models 框架，结论是「最近在研究 Foundation Models，感觉本地大模型做这种活儿是很合适的」。润色、校对、提取字段，输入短、输出短、要求快，正是端侧模型的舒适区。至于它能不能写得比 14B 的第三方模型好，我还没底。