AI 摘要会改写原意 —— 联网核查又撞上隐私

Apple Intelligence 的通知摘要，今年初就因为把新闻标题概括错了，被迫对新闻类 app 暂停。问题不难诊断，难的是怎么治：「他这个总结会窜改原意，然而联网做 fact-check 又与苹果的隐私政策相悖」。

别家的做法是让模型上网查证，再给出结论。林檎卡在自己定下的规矩里，你的通知内容不该离开设备，那就只能靠本机模型自己别出错。这是一个两难：要准确，就得联网；要隐私，就得忍受出错。

我不认为这是死结。「以苹果的生态控制力可以做到，但问题还是出在基础模型过于薄弱上，然后苹果迭代又慢」。通知、邮件、日历都在它手里，上下文比谁都全，缺的只是一个够聪明的模型。上周林檎刚发了今年的基础模型技术报告，我的感想只有一句：「希望他们能迎头赶上了」。