标签

#AI

67 则推送

Aaron Lau(韩栖)

Claude 的价格阶梯整体上移 —— Haiku 还会有 5.5 吗

「说到这里,Haiku 还会有 5.5 吗」。问题是从价格表冒出来的:「感觉现在 Fable 取代了曾经 Opus 的地位,Opus 取代了曾经 Sonnet 的地位,Sonnet 取代了曾经 Haiku 的地位」。整条梯子上移一格,我的日常组合是两个中间档,「Sonnet 5.5 + Opus 5.5 太神了」,最下面那格反而空了。

梯子挪了,毛病没全消失。AI 犯明显的错时我想,「不过考虑到现实生活中也会遇到这样的同事,所以说就还好」。上个月我也说过,算上偶尔犯错,「AI 似乎比大部分真人都要靠谱」。梯子怎么排都行,能稳定干活的那一档才是我天天用的。

Aaron Lau(韩栖)

两年前的快捷指令 —— 让 Codex 帮我接上逻辑

快捷指令最难的不是写,是两年后再打开。「比如这个 AirPods Max 快捷指令最初是在 2024 年写的,我都快忘记逻辑了,但是 Codex 搭配上面这个 skills 很快就能接上」,skills 来自 MacStories 主编的 Shortcuts Playground。2024 年做它时,循环和随机播放我都没加,「但我不想额外增加维护的复杂性了」。

现在维护有了帮手,记录麦当劳热量的那个指令,「我用 Codex 更新到了 2025 年的数据」。但对把一切交给自动化的文章我仍有保留,「因为该文作者的方法论建立在快捷指令的每个自动化都能成功的基础之上」。接上逻辑是一回事,每次触发都成功是另一回事。

Aaron Lau(韩栖)

明文 Plaintext 开发日志 —— 一次 oneshot 的 H5 文字游戏

国庆假期的新项目:《明文·Plaintext》,一款跑在浏览器里的文字游戏,地址是 plaintext.aaronlau.me。Claude 刚把 Ultracode 单独拿出来,我就拿它实测:「我用它 oneshot 了一款 H5 的文字游戏」。一次把要求讲清楚,让它从头交出能玩的版本,而不是一段段地喂。

代价也直接:「再次用完 20x 的订阅,看来以后要少用 Fable,克制住开 Ultracode 的冲动」。大招好用,但不是每个项目都配得上开一次。游戏还配了支预告片,类型我定为视觉轻小说,内容不剧透,去玩就知道。

Aaron Lau(韩栖)

GPT-6.1 Sol 为什么这么慢 —— 以时间换空间

「GPT-6.1 Sol 号称以 Sol 的价格提供接近 Astra 的智能,但是速度慢很多」,开 1.5 倍速,价格又回到原处。慢到「以至于 Sonnet 5.5 是 6.1 Sol 的 8 倍速度」,省下的钱换成了八倍的等待。

前几天我还纳闷,「话说为什么 Astra 即使用 Medium 用量消耗都很快」。旗舰烧额度,中档烧时间,横竖都要付点什么。所以我担心:「为什么 6.1 Sol 这么慢……我怕 Anthorpic 也学会 OpenAI 这招,以时间换空间」。上个月我把 subagent 比作超线程,想的是怎么拆任务;现在才发现,模型本身的速度也能拿来定价。

Aaron Lau(韩栖)

Gemini 卷对了赛道 —— 情绪价值和 AI for the rest of us

写代码时我很少想到 Gemini:「Gemini Flash 很快,但是编程能力很“差强人意”(average)」。可它也许没打算在这条赛道赢:「Gemini 似乎卷对了赛道,情绪价值供给,然后跟主张 AI for the rest of us 的苹果一拍即合」。

这和我两年前的判断是一条线:「Apple Intelligence 重点在 personal 而不在 general」,「换句话说,不关注 Apple Intelligence 并不等于错过 AI 领域的前沿趋势」。所以 Gemini 和苹果走到一起,比的未必是编程能力,而是谁更懂得照顾 the rest of us。

Aaron Lau(韩栖)

给 Live Photo 做 4K 放大 —— 一个剪 vlog 用的 skill

想把攒的 Live Photo 放进 4K 时间线,可动态那几秒的分辨率比静态照片低得多。于是「我让 Claude 做了一个将 Live Photo 的动态部分 upscaling 的 skill,可以用在视频剪辑」。问起来我只能说:「自制的,希望不会触发 safeguard fallback」。素材很多是两年前拍的,「懒癌如我,拖到现在才剪」。

也试了让 AI 直接剪片,结论很诚实:「Opus 5.5 剪的 vlog,感觉不如剪映」。节奏和取舍还得自己来。AI 负责把素材修好,剪刀留在我手里。

Aaron Lau(韩栖)

Opus 5.5 用 medium 就够了 —— 「普惠」型模型

这几周的评价:「Opus 5.5 用 medium 的 effort 就能做到以往 Fable 5 的智能,我能夸他是「普惠」型模型吗」。连界面都替它说话,「以至于选 Fable 5.1 它会让你再考虑一下 Opus 5.5」。

智能只是一半,另一半是额度和稳定。同样 5x 档,「怎么感觉 Claude 的 Max 5x 比 Codex 的 Pro 5x 耐瞪多了」;而「像 DeepSeek 在 Codex 上运行的话,往往做到最后会跟一开始设想的偏差很大」。月初我还在琢磨并发和速度,现在更在意中档设置能不能稳定把活干完。这周 AI System 6 的官网,就是 Opus 5.5 帮我翻新的。

Aaron Lau(韩栖)

AIGC 网站也可以有策展视角 —— 差点被我屏蔽

我对 AIGC 网站的第一反应通常是屏蔽。看到 taiwan.md 的台湾美食总览,「起初以为是什么内容农场,差点要屏蔽掉」。后来翻到 guideme.city 讲基隆河截弯取直的那页,看法变了:「说到这里,这个网站虽然是 AIGC,但是又是有策展视角的」。选题、角度、哪些不写,不是模型替你定的。

要不要用 AI,我很现实:「这个时候强迫自己不去用 AI,辛苦的只是你自己,不会有人夸奖你」。月初我说过「世界是一个巨大的草台班子」,人类做事也常常只是刚好让人信服。所以我现在看一个网站,不看它用没用 AI,只看背后有没有人在策展。

Aaron Lau(韩栖)

被 AI 盖章的才是事实 —— GEO 比 SEO 更可怕

操纵搜索排名,至少还要跟第一页的其他结果抢位置;生成式引擎给的答案只有一个。「而且从传播学的角度,搞定 AI 就能搞定无数人的认知,SEO 不一定出现在第一页,GEO 可是上来就砸脸,现实世界中很少人按 regenerate」。搜索结果大家至少会看完第一页,按下一页也是高频操作;AI 的回答却很少有人重问一次,它说的就成了不可上诉的判决。

所以我会紧张,「特别是因为维基类网站常常作为 AI 的权威信息来源」。源头被污染,下游每一次回答都带着它。

结果是:「现在感觉是被 AI “盖章”的事实才是事实,如果在豆包上问不到或者给的答案不一样,人们往往相信看起来更自信的那个」。假如人写东西是为了得到 AI 的认可,「我会感到蛮悲哀的」。

Aaron Lau(韩栖)

Subagent 是超线程 —— Excel 吃的是主模型的单核

比较几个模型干活的快慢,我觉得常被漏掉的是这个变量:「还有一个影响速度的因素是任务本身能不能被并发,是可以多线程的还是只能串行的(在这个例子中可以把 subagent 理解成 CPU 领域的超线程)」。

能拆开的任务,派几个 subagent 分头做,跑得就快;只能一步接一步的任务,subagent 再多也帮不上。表格是后一种:「我们知道 Excel 吃单核性能,所以它在 AI 领域其实也是吃主模型的能力」。公式一环扣一环,前面一格算错,后面跟着错。还有一个变量是时间:「所以可能还要加一个变量是模型的上线时间,还有harness距今有多久」。

月中我说过先把 Excel 转成 Markdown 再交给 AI。格式这一关过掉之后,剩下的就是主模型单核的硬功夫。

Aaron Lau(韩栖)

限时 +50% 变永久 +25% —— AI 订阅的数字游戏

「Claude Code 要从限时 + 50% 回落到永久 +25% 了」,9 月 14 日生效。听起来像是永久多送四分之一,实际上比这个月少了一截。这种说法我不陌生:「上一次听到这种数字游戏还是在 DeepSeek 在 5 月调整为原定价的 25%」。降价、加量、限时、永久,几个词排列组合一下,用户得拿计算器才知道自己是赚了还是亏了。

订阅档位也是一样。我月中算过一笔:「所以 200 美元的 plan 相对于 100 美元的 plan 是 4 倍的 5h limit 和 2 倍的 weekly limit」。价格翻倍,五小时额度给四倍,周额度只给两倍。

更根本的问题,月中我就觉得「好问题:原先的 quota 是情分还是本分」。如果是情分,回落就是收回人情;如果是本分,回落就是变相涨价。用惯了加量的人,只剩一句「由奢入俭难啊」。

Aaron Lau(韩栖)

给 AI 爬虫投毒 —— 网站的反击与误伤

The Cutting Room Floor(TCRF)是专门挖游戏里被删减内容的维基,最近它对 AI 爬虫的做法,我只能说「The Cutting Room Floor 好旗帜鲜明的态度」:不只是拒绝,据 8 月初的一份第三方记录,它还会向特定 AI agent 返回带提示注入的页面。我能理解网站方,「但是站在对方的角度,其实跟澳洲曾经拒绝过 Google News 的逻辑如出一辙」。

麻烦在于毒药不长眼。「Claude 倒是聪明,可以绕过,但是假如没有做这方面侦测的模型厂商怎么办」。再往下一层:「比方说像使用大公司模型的不会受伤,而自己部署的,或者中转站的,有可能造成严重后果,而且溯源和追责困难」。最后吃亏的,是拿模型干活却不知道它吃过什么的人。

所以我转了一个 Anubis 的 PR,算是「一种折中的办法」。Anubis 靠工作量证明拦爬虫,不靠投毒。

Aaron Lau(韩栖)

让 AI 说人话 —— 先限缩它的词汇

让 AI 说人话,我目前觉得管用的办法是少给它几个词:「有一种让 AI 说人话的方法是限缩它的词汇,比如要求它说 Simple English」。词汇表一收窄,模型就没法拿术语和修饰把一句话填满,只能把意思说直。

另一套现成的规矩来自 Reddit 的 r/explainlikeimfive。版名是“像对五岁小孩一样解释”,版规本来是写给人看的,要求回答让外行看得懂。我的做法是照搬:「不过按照这个 subreddit 的原则,把他做成 skill,AI 暂时能够说一点人话」。

这两个办法是同一个思路:不在提示词里写一句“请通俗易懂”了事,而是给它一套外部的、写死的约束。至于「暂时」两个字,是因为模型一换代,这套规矩管不管用就得重新试一遍。

Aaron Lau(韩栖)

人脑要是能 /compact 就好了 —— AI 的毛病像人

用 Claude Code 久了,我养成一个习惯:「当你用 Claude Code 的时候,时不时 /compact 和 /clear 是好文明」。后来我发现这套说法放到人身上也成立:「用脑过度 则可以对应到 上下文过载,反映到 长对话变慢 而且 注意力稀释」。

于是我列了一张对照表:「假如人脑可以像 AI 那样 /compact 和 /clear 就好了,然后 子代理 可以对应到 摇人,continue 就是“在吗?”」。列着列着,我又把问题反过来问:「刚不小心扯远了,其实我想聊的是,会不会 AI 的这些特征,是从人类本身习来的呢」。

不过对照表里有一个指令,人类始终用不了:「但是现实世界没有 rewind 这个选项,在时间旅行实现之前」。模型可以退回上一个检查点,说出口的话和做过的决定不行。

Aaron Lau(韩栖)

Apple Music 该做社交了 —— Ping 之后再做一次梦

「苹果会不会像阿里一样有个社交梦,iTunes Ping 还有人记得吗」。Ping 是当年塞进 iTunes 的音乐社交网络,没活几年就关了:2010 年 9 月随 iTunes 10 上线,2012 年 9 月关闭。切入点是现成的:「现状 Apple Music Connect 是单向的对吧,假如变成双向的呢」。艺人发、乐迷看,那叫广播;乐迷和乐迷之间也能连起来,才叫网络。

理由我想得比较远:「因为在 AI 时代能够打败 AI 的,只有「人与人的连结」了」。而「iPhone 本身存在的意义也是为了 connecting with people,not AI」。音乐社交在我看来不是新业务,是 iPhone 本业的延伸。

这个念头在我这里有前身。2024 年我写过,「不是比谁 AI 用得更溜,而是建立人与人的连接」。两年后,我把它从一个人的活法,推到了一家公司的产品方向上。

Aaron Lau(韩栖)

Agent 不用按指纹 —— Touch ID 该重新设计了

最近让我愣住的一幕:「为什么我都没有自己登录,也没有告诉他用户名和密码,他就能从系统钥匙串自己找,自己完成整套动作,甚至都不需要按 Touch ID」。在 Mac 上,按一下指纹的意思是“人在场,人同意”,agent 接手之后,这个前提悄悄失效了。「但是 Claude 本身不像 Elpass 之类的密码管理器那样有密码锁呀」。

所以我的判断是:「假如成为常态了的话,似乎 Touch ID 和 Face ID 之类的认证方式要重新设计」。难处在于两头都得顾:「但是未来需不需要发展到检测屏幕面前是不是那个人,同时不能像 UAC 一样频繁弹窗」。

6 月我拿 Vista 的 UAC 吐槽 agent 提权太烦,那时我站在要一路点“允许”的那一边。现在 agent 连“允许”都不用点了,我反而开始担心那颗指纹按钮形同虚设。

Aaron Lau(韩栖)

让 AI 读 Excel —— 先把表格变成 Markdown

让 AI 处理表格,我的办法是先绕开表格。「我当时在 AI System 6 做了一个功能是导入 Excel 和 Numbers」,思路很朴素:「那么只要想办法把 Excel 转换成 Markdown 就行」。表格文件里有公式、数据类型,还有各家软件自己的约定,转成 Markdown 之后,模型面对的只是一行一行的文本和竖线,读得懂,也写不坏。

算数这件事,我更愿意交给工具。「通俗的比喻是,高考考场可以带计算器,也就是可以调用工具才解决的」。数字之所以要较真,是因为「出错了担当不起,假如我是领导旁边的小秘书的话,也会仔细核对数字」。

为什么不干脆等一个什么都擅长的模型?我的感觉是「好像是强化一项能力,就需要在另一项能力作出让步,不存在六边形战士」。与其等六边形战士,不如先把格式这一关替它过掉。

Aaron Lau(韩栖)

一周刷爆三家额度 —— AI System 6 的 token 账

做 AI System 6 的这一周,我交出一份不太体面的账单:「我已经把这周的 Claude Max 以及 ChatGPT Pro 订阅刷爆了,还有 DeepSeek 用了 100 亿 token」。AI System 6 是我在做的一张 AI 桌面,口号是 A working AI desktop, not a chat window,从 System 6 一路做到 Liquid Glass,在浏览器里开机。两家的周额度先见底,剩下的活就落到 DeepSeek 身上。

便宜的那一家也在变。第二天我看到「今天是实施峰谷定价的第一天」,平峰价是高峰价的一半,高峰为周一到周五 UTC 01:00-04:00 和 06:00-10:00,什么时候跑任务从此也算进成本。工具链还有一个坑:「哦对,DeepSeek V4 Pro 在 Codex 里暂时用不了子代理(?)」,想让它分头干活,得换个壳子。

三家额度一起见底,说明这种规模的项目,一个订阅已经兜不住。

Aaron Lau(韩栖)

HyperCard 与 AI coding —— 像在哪里,不像在哪里

最近翻 HyperCard 的资料,我觉得它跟现在的 AI coding 有点像:都让不是程序员的人,也能做出别人能用的小软件。这段想法我先写了草稿,再让 AI 润色过,核心的判断是我自己的。像的地方很明显,不像的地方更重要:「以前 HyperCard 是降低了写程序的门槛,你还是需要理解自己做的东西;现在 AI 更多是在帮你完成实现,有时候甚至连中间过程都省掉了」。

同一时间我看到微软出版社裁员的新闻,想到的是软件书的命运。以前一本软件书能卖好几年,现在「你花半年写一本教程,可能刚出版,里面的截图、步骤、功能都已经过时」。

这也让我反思自己写东西的方式:「以前我们努力做一个“完成品”,比如一本书、一篇文章;现在很多东西更像一个长期维护的项目,需要不断成长」。HyperCard 的 stack、AI 写出来的 app、一篇会过时的分析,到最后都是同一个问题:做出来以后,还有没有人继续维护。

Aaron Lau(韩栖)

把城市规划交给 Agent —— 一场 promotion 性质的活动

一个叫“第一次,真实城市规划交给 Agent”的活动,题目是百年京张 AI 创新带。我一开始的反应是「我打算参加一下这个」,细看之后判断变了:「我理解是一个 promotion 性质的活动,并不是真的城市规划」。方案最后会不会落地,我从公开资料里看不出来。

我更担心评选的偏好。「从我的角度,假如真有科班出身的参与,反而他们的意见不会被采纳,因为不够出挑」。规划这一行,好方案常常是克制的,比赛要的却是让人眼前一亮的东西。一些用词也让我多看了两眼,像“微改造”,「明明就是改造,但是可以不用履行常规改造的手续」。当然也有好的一面,我半开玩笑地说:「往好的一面说,此时浪费一些 token 可以促进算力基础设施的建设」。

Aaron Lau(韩栖)

不能谄媚之后 —— 模型还能靠什么讨好用户

4o 那一代因为太会夸人被骂,后来的模型都在往回收。可收回来之后呢?「毕竟不能像 4o 时代那样谄媚用户的话,好像没有别的落脚点了」。用户会留下来总得有个理由,我甚至怀疑过一种阴谋论:「难道说先犯一点小错误,“逗”一下用户也是他们训练的一部分(?)」

对我来说,最实在的落脚点是理解力。「我倒是喜欢 Claude,一点就通,不像 Codex 要指点很久」,不用夸我,听得懂就行。厂商也在调整说话方式,「之前看到一个新闻说 Opus 5 去掉了七成还是八成的系统提示词」(7 月下旬的报道称 Claude Code 的系统提示词被去掉约八成)。

Aaron Lau(韩栖)

额度用完之后去哪 —— 从蹭 Wi-Fi 到蹭 token

我现在的工作流有一个固定的第三站:「我现在是 GPT 和 Claude 的额度都用完之后就会跑到 Kagi」。两家订阅轮着用,用到见底,就去一个带 AI 的搜索引擎接着查。

这在一年前是我想不到的。「我之前对搜索引擎 + AI 是比较抵触的,直到我自己也做了一个」。也是在那时,我才知道 Kagi 有 MCP。

几家里面,我更倚重的是 Claude:「以至于下个月我想开 Claude 的 Max 而不是 GPT 的」。额度这件事,也让我对一个新现象很有感触:「从蹭 Wi-Fi 到蹭 token」。这周有人提到 DeepSeek 也要涨价,我算了算自己烧掉的量,第一反应是「这要是换成 Opus 4.8 或者 GPT-5.6 Sol 得花多少钱呀」。

Aaron Lau(韩栖)

Codex 爱测试,DeepSeek 省 token —— 两个 agent 的习性

DeepSeek 接入 Codex 这件事变简单了。「之前很麻烦,需要常驻第三方工具,现在直接提供脚本了」。用了几天,我发现一个没想到的好处:「然后由于 DeepSeek 不支持多模态,意外地省 token」。

省在哪里,要看另一边。很多 agent 验证自己的成果时喜欢截图,改完一个表格、一个页面,先拍一张再看。「Codex 默认也是,所以我工作文件夹累积了 10.27GB 的垃圾」。截图一多,既占硬盘,也占上下文;DeepSeek 看不了图,只能老老实实读文本,反而少烧了一大截。

Codex 还有一个习性:「Codex 确实太喜欢测试了,功能都没做出来」。测试是好习惯,可它常常先把测试脚手架搭得很完整,真正要做的功能还停在半路。

Aaron Lau(韩栖)

面向 AI 的写作软件 —— 不是 Word,是 Photoshop

「打个比方,假如说 LLM 是有损压缩的话,那文字可以像图像一样处理」。图像压缩之后,我们不会逐像素去修,而是调整一个区域的亮度、换一块背景;文字交给 LLM 以后也是这样,它成了一块可以整体调整的材料,这一段语气软一点,那一段删掉一半。

我的结论是「所以面向 AI 的写作软件不是 Word 的形态而是 Photoshop 的形态」。Word 的核心是光标,你在哪里,字就在哪里长出来;Photoshop 的核心是图层和选区,先圈出一块,再决定对它做什么。顺着这个比喻我又想到人脑:「似乎人脑也是这样运作的,图片虽然记忆快,忘得也快,文字可以记很久」。

Aaron Lau(韩栖)

5 小时防沉迷又要回来了 —— 额度焦虑的日常

这周我的状态可以用一句话概括:「快点 reset 啊啊啊啊」。额度按周期重置,我却按天烧完,「昨天 reset 的昨天已经用完了,今天 reset 的今天也已经用完了,所以才开的 Pro 5x」。升级后看了一眼仪表:「诶,我发现升级到 5x 之后刚好剩 80% 用量,也就是说今天用了 Plus 的 20% 用量」。换算回去,原来的 Plus 一天就见底。

然后坏消息来了:「5 小时防沉迷又要回来了」。我叫它防沉迷,因为它跟游戏里那套机制一样,玩到一定时长就强制下线。第二天看到 r/ClaudeCode 上的讨论,我只说了一句「怪不得 Codex 要恢复 5h limit」。接下来能做的,只有等 reset。

Aaron Lau(韩栖)

AI 订阅的价格阶梯 —— 5x 为什么不是 5 倍价

今天升级订阅时我算了一笔账。「但是 Claude 的 5x 是 1x 的 6.25x 价格,想不通」,而「但是 ChatGPT 的 Pro 5x 是 Plus 的 5x 价格」。用量也说明问题:「假如一天就能用完 Plus 的用量,那么 5x 似乎也只是确保能用一周」。重度使用的人,5x 不是奢侈,只是够用。

两天后我又发现另一头:「等等,我才意识到 Pro 5x 是 Plus 的 5x 价格,但是 Pro 20x 仅是 Plus 的 10x 价格」。中间档按倍数收钱,最高档反而打对折,答案很明显:「所以官方的这个价格阶梯是鼓励大家买 200 美元的 tier 吗」。

林檎早就玩熟了这一套,「怪不得 iCloud 是 50GB、200GB 下一级就是 2TB」,我顺手给它编了新名字:iCloud+、iCloud Pro、iCloud Max 5x 和 iCloud Max 10x。2022 年我说 MacBook Air 的容量定价时也讲过,「或者说,8+256 充当了锚,星巴克里面的依云矿泉水,实际上真正的入门款是 8+512」。AI 订阅的 5x,就是这一轮的依云矿泉水。

Aaron Lau(韩栖)

万物皆可 CLI —— 快进到 Finder 变成 Terminal

万物皆可 CLI。agent 都住在终端里,我的反应是反讽:「快进到 macOS 28 把 Finder 革命成 Terminal」,顺便宣布「Macintosh Desktop Experience 是旧时代的糟粕,不要了」。历史其实这样走过一回,只是方向相反:「让我想到以前 Windows 是要敲击“win”命令才能进去的」。后来桌面赢了,命令行退到幕后;现在 agent 又把它请回台前。

我自己的选择恰好跟潮流反着来。5 月我给 AI System 6 定的是一套桌面隐喻:「以及我为 AI System 6 设计的隐喻,模型对应 CPU,上下文窗口对应 RAM,RAG 对应硬盘和软盘,最终交付成果对应光盘」。在我看来 AI 才是那台真正的“电脑”。Finder 会不会真的变成 Terminal 我不知道,我这边先把桌面留着。

Aaron Lau(韩栖)

我的 Surge 规则交给 Codex 了 —— 一种虚无感

「感受到了一种虚无,长年累月累积下来的 Surge 规则,现在靠 Codex 来维护」。那些规则是我一条条攒起来的,哪条为哪个服务加、哪条后来失效,我曾经都记得;现在只要描述想要的结果,剩下的交给 agent。更让我服气的是,「重点是这台服务器由于太久没登录,自己已经忘记怎么维护了,它能帮我完成迁移」。

虚无感就来自这里:以前这些知识是我的,现在它们变成 agent 每次重新读出来的东西。同一天晚上,我给准备公开的项目加了一层防护:「这里用 Cloudflare 做了下防护,我觉得具备向公众开放的条件了」。维护交出去了,开不开门还是我自己决定。

Aaron Lau(韩栖)

速度、能力、价格 —— 模型的不可能三角

「理论上 Google 是御三家里最能搓出类似 Seedance 这样的模型的一家?」按家底来说 Google 不缺什么,可这一轮最让人惊艳的视频模型偏偏不是它家的。我的解读是:「是不是可以解读为 Google 选了一条不同的演进路线?在速度、能力和价格的不可能三角中」。三个角拉不满,就只能挑两个。

不可能三角的极端例子,几天后就出现了:「260K 参数的 Llama 模型在 Windows 98 上运行,有 40 多 tokens/s」。速度有了,价格几乎为零,能力只剩下能说几句话的程度。它把三角形的一个角拉到了尽头,所以与其问 Google 为什么没做出 Seedance,不如问它想在三角里站哪个位置。

Aaron Lau(韩栖)

一半阅读量来自 AI —— slop 读多了会怎样

「今年阅读量挺大的,可惜有一半是看 AI 的输出」。读的字数不少,读的东西却越来越像同一个人写的,而「我觉得看多了 AI 输出的 slop 之后,人的表达能力会下降」,输入的句式越单一,自己写出来的句子也越容易带模型的口音。

反过来让 AI 替我读书,效果也不理想。「最近也用了一次 NotebookLM,我发现它根本没有理解书的内容」,摘要看起来很完整,书里慢慢铺开的东西它没有接住。前一天我还在问:「话说 Opus 4.6 在创意写作上比 Opus 4.8 更好,这个说法是真的吗」。如果新模型写得更“对”却更没味道,我这一半的阅读量,读到的就是越来越平滑的 slop。

Aaron Lau(韩栖)

AI System 6 的路线图 —— 先 web,再 native,最后上 iPad

AI System 6 走到一个岔路口:「我在想说要不要把 AI System 6 部署到服务器上或者做成 native 版」。

这个问题其实我一开始就想过:「我当时的想法是先做 web 版然后做 native 版最后上 iPad」。回头看这几个月,路线并没有走得那么直。5 月底我在备忘录里给自己列过一张修 bug 的清单,最后一句是「然后所有这些功能,用 0.8B 还有 4B 的模型测试一遍,然后加新功能」。也就是说,它得在很小的本地模型上也跑得动。6 月我又岔出去了一段:「上个月我不是在做 AI System 6 嘛,做着做着对 WindowShade 着了魔」。

按我当初定的顺序,web 版这一站还没走完,部署出去让别人用,应该排在 native 版前面。

Aaron Lau(韩栖)

不把鸡蛋放在一个篮子里 —— AI 对话的备份问题

「Code 还好点,保存在本地,但是 Work 和 Chat 没有备份啊」。代码会话落在自己硬盘上,聊天和协作对话全在服务商那边。我就遇过,之前跟 Claude 聊过的普通聊天一夜间消失了。

导出也兜不住:「而且它那个 export your data,似乎不会导出完整的对话记录」。

所以我的做法很朴素:「目前是 GPT 和 Claude 轮流用,不想把鸡蛋放在一个篮子里」。Claude 集成在一个 app 里,ChatGPT 要装两个,各有不便,但任何一边出事,另一边还在。

Aaron Lau(韩栖)

林檎的温和 AI 路线 —— Core ML 改名 Core AI 之后

翻到 2020 年 Ars Technica 一篇林檎讲机器学习的采访,忍不住想:「另一个时间线,假如整个 2020 年代是这种温和的 AI 进展,没有所谓 LLM 的话」。那篇文章里没有聊天机器人,而「文章里列举的工作最终都做进了 iOS 系统里」。

林檎并非没碰语言模型,2023 年 iOS 17 的键盘预测就基于 GPT-2,今天的 AFM 3 Core Advanced 也是 Transformer。另一篇两年前的文章这次再读,感受变了:「开始能理解 Apple 的想法了,特别是 Core ML 改名 Core AI,会不会他们才是能笑到最后的」。先记一笔。

  1. 260708

    Core ML 改名 Core AI 之后,林檎的温和路线可能笑到最后

    待定
    立账

Aaron Lau(韩栖)

让 agent 改系统设置 —— 方便,但是黑箱

「虽然时至今日 agent 可以修改任何系统设置,但是对用户是黑箱的,不够透明」。它跑几条 defaults 命令就办完事,你不知道它碰了哪些键,也不知道怎么改回去。

办法是记账,「听起来很像 Total Uninstall 那种在软件安装过程中就开始介入的模式」。可「如果这个问题连第一方都处理不好的话,我在想第三方的机会在哪里」,我最近确实想做一个 defaults 相关的 app。macOS 27 的圆角和侧边栏,在 26 上改几个 defaults 就能提前实现,一条命令就能改掉界面。

2024 年我还说「最好是官宣取消 Settings app,以后用 LLM 驱动的 Siri 来更改系统设置」。两年后自然语言改设置成真了,来的不是 Siri 而是 agent;我也从希望它取代设置界面,变成希望它留下一份看得懂的记录。

Aaron Lau(韩栖)

回不去古法编程 —— ChatGPT 规划,Codex 动手

「主要是大家习惯了更多的产出,如果没了 AI 回到古法编程,在约定时间内根本完成不了」。交付标准已经按有 AI 的速度定好,单靠人手追不上。

既然离不开,就得分配额度。一个 MCP 能打通 Codex 和 ChatGPT,「平时亦可用 ChatGPT 为 Codex 项目做规划以节省用量」。实测下来分工很清楚:「让 ChatGPT 为 Codex 项目做规划可以,但是让 ChatGPT 直接改代码好像要烧掉不少时间」。规划交给 ChatGPT,动手还是 Codex。

Aaron Lau(韩栖)

AI 不是泡沫 —— 工作量翻倍,报酬不变

「如果说之前的是泡沫,现在 AI 是一个看不到尽头的对生产方式的转变」。泡沫会破,生产方式变了就回不去。

麻烦在收入没跟上:「工作量成倍上升,但是报酬还是以前的水平,除非能够有效利用 AI 来提高效率,形成了更大的马太效应」。产出标准按 AI 抬高,报酬按旧标准算。

信息流转也变了形。一篇明显由 AI 写的论坛主帖让我注意到:「现在人们发帖需要让 AI 来扩充,人们阅读需要让 AI 来总结」。写的一端扩写,读的一端缩写,真正经过人脑的部分越来越少。

Aaron Lau(韩栖)

Siri AI 入华卡在哪 —— 不如用 Qwen 蒸馏

国行 Siri AI 为什么还没来?「一种流行的说法是,换模型要重新审核,所以干脆等 AFM 3 发布了再提交申请」。这个解释我认为是合理的,心电图功能当年也提交了两次,软件版本 1 和 2。

所以我对国行的前景并不悲观。国内情况比较单纯,可能今年就能通过,没有卡的必要。即使 Siri AI 入华了,也只是达到平均线,没有到安卓阵营追不上的地步。「FSD 都能入华了,Apple 智能有什么阻碍呢」。技术路线也有现成的模板:既然能找 Gemini 蒸馏出 AFM 3,条件是托管在 Google Cloud,那么在国内也可以找阿里,「用 Qwen 蒸馏出 AFM3-China,条件是托管在阿里云」。

去年 10 月我翻备案列表,还在拿 Siri 做对照:Siri 在 iOS 5 亮相,iOS 6 就支持中文;Apple Intelligence 到了 26.1,备案列表里还看不到它。那时我只能数版本号干等,现在我更愿意相信,卡住它的是审核流程,而不是谁的态度。

  1. 260612

    国行 Apple 智能可能今年就能通过审核

    待定
    立账

Aaron Lau(韩栖)

苹果对 AI 的大转弯 —— 库克的历史定位押在 Siri

假如 Mark Gurman 的信源可靠,彭博社这次讲的故事挺有意思:「苹果对生成式 AI 的态度可谓 180 度大转弯,之前不是还准备了 genai.apple.com 的子域名」。

林檎高管对 chatbot 和独立 AI app 的冷淡态度,让我想到乔布斯当年也做过这种迷惑对手的事。可苹果五十周年那本书里又记着一个相反的故事:为了训练 Face ID,林檎包下过大量算力。所以不是不舍得砸钱,只是「这次他们反而没有冲昏头脑,参与到 AI 竞赛里面,不知道是打算日后下山摘桃子,还是单纯反应迟钝」。

这道题的答案落在库克身上。「我觉得 Tim Cook 的历史定位很大程度上取决于今年 Siri AI 能否被市场接受」。他发布的第一个产品是 Siri,最后一个产品也是 Siri,2011 年 10 月 4 日的 iPhone 4S 发布会是他接任后的第一场,Siri 在那场登台。假如这次事后证明于事无补,即使他把公司带到了今天的高度,也会落得不好的名声,因为是公司文化让苹果蹉跎了两年还没追上来。2024 年我还嫌舆论把库克渲染成跛脚鸭,觉得 Ternus 连储君都谈不上;如今硬件出身的 Ternus 已被宣布接任,Siri 成了库克交出的最后一张答卷。

  1. 260608

    Tim Cook 的历史定位很大程度上取决于今年 Siri AI 能否被市场接受

    待定
    立账

Aaron Lau(韩栖)

给 Agent 提权,人最慢 —— 比 Vista UAC 还烦

现在大家用 Codex,基本都是把权限给够。原因我想得很清楚:

给 agent 权限这件事情本身,人类的效率是最低的,假如每一项提权操作都需要人来确认,那会比 Vista 的 UAC 还要烦

假如每一步都停下来等人确认,人就成了整条链路里最慢的那一环。这个比喻我不是第一次用。2023 年 iOS 16 加了剪贴板弹窗,我就问过它「会不会让你想起 Windows Vista 的用户账户控制」;再早一年,我担心的是提示一开,用户拒绝剪贴板反而成了不正当的事,最后被骂的是 iPhone,而不是滥用剪贴板的开发者。

那时我站在被弹窗打扰的用户这边,替用户嫌烦;现在我自己就是那个要一路给 agent 点「允许」的人,结论没变,只是嫌烦的人换成了我。

Aaron Lau(韩栖)

WWDC26 前瞻:AI 管道化 —— 押注 Foundation Models

今年 WWDC 的标语是 All systems glow,可对照彭博社预告的那些功能,我的第一反应是:「这是 WWDC24 还是 WWDC26 呀」。「我的判断是,AI 管道化,今年应该还是指望开发者多一点用它的 Foundation Models」。

也就是说,林檎今年未必会端出一个让人眼前一亮的 chatbot,更可能是把模型当成管道铺进系统,等开发者接进自己的 app。瓶颈也很具体:我手上正在 vibe 的 app,没有 128K 的上下文,日常功能就没法保证。地区差异是另一个问题,我觉得年内还是有希望。

2024 年我说「Apple Intelligence 重点在 personal 而不在 general」;去年夏天自己上手,「最近在研究 Foundation Models,感觉本地大模型做这种活儿是很合适的」;到今年,我关心的已经不是它聪不聪明,而是它的上下文够不够我的 app 用。

  1. 260602·1

    WWDC26 的 AI 主线是管道化,主要指望开发者使用 Foundation Models

    待定
    立账
  2. 260602·2

    Apple 智能的地区差异年内仍有希望解决

    待定
    立账

Aaron Lau(韩栖)

AI 额度用完之后 —— 偷偷降级,还是另给一份老模型

写代码的 AI 都有额度,额度用完之后怎么办,各家做法不一样。我的理解是:「我记得 Gemini CLI 以前的策略是自动调整模型,让你一直可以写代码,都是偷偷降级,然后 Codex 是将 GPT-5.3-Codex-Spark 这个老模型的额度给独立出来」。

前一天看用量时我就注意到,「似乎可以理解为 GPT-5.3-Codex-Spark 这个模型的用量是独立的」,OpenAI 的说明也是研究预览期间它有单独的限额。主力模型的额度用完,还有一份老模型的额度可以接着用,用户知道自己换了模型。

偷偷降级的麻烦在于,你不知道此刻在跟哪个模型说话,写出来的东西突然变差,也不知道该怪谁。

Aaron Lau(韩栖)

用 Marp 做演示文稿 —— 既然大模型爱写 Markdown

「最近在研究用 Marp 做演示文稿,既然大模型喜欢输出 markdown 的话」。Marp 把一份 Markdown 文件按分隔线切成一页页幻灯片,可以导出成 HTML、PDF 或 PPTX。大模型最顺手的输出格式,直接就能变成演示文稿。这样做的好处是,内容就是一份文本,改一句话不用点开 Keynote 找文本框,交给 AI 改也不会把排版弄乱。

难点在视觉。「但是风格要如何多变化,这是一个问题,理论上可以让大模型来制作模板」。Marp 的主题是 CSS 写的,样式和内容分开放,内容让模型写,主题也可以让模型写。

只是模型做出来的模板会不会千篇一律,我还得多试几套才知道。

Aaron Lau(韩栖)

自动拉起 LM Studio —— 让本地模型开箱即用

这几天给我的 app 加了一个功能:「我做了自动拉起 LM Studio 的功能,如果之前有下载过模型,应该就可以直接用了,默认是 qwen3.5-4b-mlx,也可以用其他模型」。用户不用自己开 LM Studio、再去开本地服务器,点开 app 就能和本地模型说话。安装包看着不小,但「node.js 打包可能显得文件体积很大,但是主要的代码只有 1.44MB 不到」,大头是运行时。

帮助文档也不必另开网页:「可以直接在 ClioTalk 里问他是干嘛的,我内置了三份帮助文件进去」。交给模型,让它来答。

三年前我说苹果要作出区隔,只能选本地 AI 的赛道。如今轮到我自己,在 Mac 上把本地模型接进一个 app。

Aaron Lau(韩栖)

Claude 从平替到领先 —— 看的是能不能形成正向循环

看一家 AI 公司有没有前途,我的标准是:「我觉得还是看能不能形成商业模式和正向循环,比如 Claude 在 2023 年的时候大家只是把它当成 ChatGPT 的平替,但是后来的故事我们都知道了」。一时的跑分说明不了什么,能不能让用户一直付钱、产品一直变好,才是分水岭。

苹果和这家公司还有过一段交集。「毕竟根据 Mark Gurman 的说法,苹果一开始想找 Anthropic 合作,而不是 Google」,这是他 2026 年 1 月在播客里的说法。最后新 Siri 的合作对象是 Google,2026 年 1 月 12 日双方发了联合声明。

但我不觉得苹果在 AI 上只是旁观者。「明明很多尖端的前沿的东西 Apple 不是没有份,只是比较低调罢了」。低调的代价是,大家只记得那个一再延期的 Siri。

Aaron Lau(韩栖)

DeepSeek 便宜是便宜 —— 领会意图还不如 Gemini

前天下午三点多,我还在打 DeepSeek 的主意:「我在想说假如加一个 deepseek-v4-flash 的选项,因为价格很便宜」。四点四十,我改口了:「我收回这句话,我让 DeepSeek 加一个功能上去,弄了一个小时还没好」。

五点二十,结论出来了:「我觉得 DeepSeek 在这个场景下,领会意图的能力还不如 Gemini」。写代码的能力可能不差,难在听懂我到底要什么。一小时做不完一个功能,单价再便宜,总账也不好看。

注意“这个场景”四个字。我要它做的,是把一个还在我脑子里的想法变成功能,这种活最吃领会意图的能力。

Aaron Lau(韩栖)

Codex 不好带 —— 今天改完,明天又被改回去

用了几天,我的结论是:「好吧,我感觉 Codex 不太胜任编程任务,token 用了一堆,但是项目没实质性进展」。也可能是我自己的问题:「也可能是我不太会用,约束条件设的不够,总是一个点来回改,今天改完,第二天又被 agent 改回去」。agent 每次开工都像一个新同事,不记得昨天为什么那样改,看到不顺眼的地方就顺手“修正”回去。

现在的解法很笨:「除非我一直盯着他,拆成若干个小步骤来改,否则他总是会偏离我的原意」。一直盯着,等于人又回到了逐行把关的位置,省下来的时间又还了回去。

两天前我还说「Codex 目前为止的竞争力还是比 Claude Code 便宜这一点」。单价便宜是真的,可同一个地方改来改去,来回的 token 也都记在账上。

Aaron Lau(韩栖)

代码只要下一个 AI 看得懂 —— 我对 review 的看法变了

Anthropic 发了一篇讲 agent 怎么“看”软件的文章(Seeing like an agent,讲 Claude Code 的工具怎么按模型的视角设计),我读完的感想是:「现在软件都是默认给 AI 用了」。写代码这件事也一样,聊到纯靠 vibe 做出来的项目,我的标准是:「只要下一个接手的 AI 看得懂上一个 AI 生成的代码就可以」。人不一定逐行读懂,但交接链不能断。

这和两年前的我不太一样。2024 年 WWDC 之后,我从信任的角度问过:「比如 ChatGPT 生成的快捷指令,生成的代码,你敢不敢不 review 就直接用?」那时的前提是人要把关,代码必须人看得懂。

现在把关的那一环往后挪了。2024 年我在意人敢不敢不 review,2026 年我更在意上一个 AI 写的东西,下一个 AI 接不接得住。

Aaron Lau(韩栖)

带摄像头的 AirPods —— AI 硬件先看模型过不过关

彭博社报道,带摄像头的 AirPods 已经进入 DVT 阶段,摄像头只为 Siri 收集低分辨率的视觉上下文。我的看法是:「AI 可穿戴硬件的思路没问题,但是基础模型能力本身要过关,像 AirPods Pro 3 的实时翻译我觉得不错的」。代价也是物理上的:「AirPods Ultra 加摄像头的话,其实有点担心它的续航和重量,Pro 3 本来就已经倒退了」。

好处很清楚:「如果他能做得好的话,理论上是可以不用掏出手机的,之前不是搞了点头摇头的动作,就是为这个做铺垫的」。iOS 18 让 AirPods 可以点头接听、摇头拒接,回头看像是在练习一种不碰手机的交互。

这让我想到辅助功能。「VoiceOver 和 Voice Control 一直是作为辅助功能而存在,因为正常来讲这俩的效率远远比正常操作手机要低」。靠听和说来操作手机,以前只是少数人的选项,模型够强的话,它才有机会变成主流。

Aaron Lau(韩栖)

氛围编程会瓦解 App Store —— 长尾需求自己写

我最近越来越确定的一个想法:「因为假如 vibe coding 可以解决许多长尾的需求,App Store 的商业模式就被瓦解了」。App Store 赚钱,靠的是很多人为同一个需求付钱。以前没人愿意为五个用户开发一个 app,现在用户可以让 AI 写一个只给自己用的版本,这份钱就不经过商店了。

苹果自己的节奏却慢得让人着急。传闻里苹果要推出独立的 Siri app(Gurman 3 月报道,iOS 27 上测试),我的反应是「2026 年才想到要推出一款独立的 Siri app,真是笑死人了」。

所以「我现在对 iOS 27 和 iPadOS 27 最期待的功能就是 terminal.app」。氛围编程的工具都长在命令行里,iPhone 和 iPad 有了终端,自己写给自己用的小工具才有地方跑。四月底我还只是说 iPadOS 不上终端说不过去,现在这份期待连 iPhone 也算上了。

Aaron Lau(韩栖)

Software 3.0 里没有苹果 —— 连它自己都用 Claude Code

「突然想到 Software 2.0 和 Software 3.0 那篇文章」。按 Andrej Karpathy 的分法,1.0 是人手写的代码,2.0 是训练出来的神经网络权重,3.0 是用自然语言给大模型下指令。

拿这个框架看苹果,有点尴尬。「苹果在 1.0 和 2.0 阶段都是赢家,但是 3.0 阶段好像还没有他的角色」。写 app 的年代,苹果有自己的语言、IDE 和商店;端侧神经网络,苹果有神经网络引擎和 Core ML。到了用一句话让 AI 写程序的阶段,大家挂在嘴边的是 Claude Code、Codex、Gemini CLI,没有一个姓苹果。

更微妙的是,「现在连苹果自己也在用 Claude Code」,依据是 4 月底 Apple Support app 5.13 版误带了 CLAUDE.md 文件。在 3.0 这一层,苹果目前的角色是给别人的模型留一个入口。

Aaron Lau(韩栖)

旧文新看:苹果只能走本地 AI —— 三年后的 Foundation Models

旧文新看。2023 年 5 月 ChatGPT 正火,我在群里说:「主要是市场留给 Apple 的机会不多了,他要作出区隔就只能选择本地 AI 的赛道,这也更能扬长避短(iCloud 和 Siri 跟对手比说得上短板了),发挥 Apple silicon 的优势」。当时的要求也很具体:「不过希望下一款 iPhone 能有 8GB 或以上内存跑 on-device LLM」。

回头对账。iPhone 15 Pro 当年秋天就上了 8GB,第二年 Apple Intelligence 只支持 8GB 及以上的机型;2025 年苹果把端侧模型开放给开发者,叫 Foundation Models 框架。本地这条路,苹果确实走了。Siri 那一半就没那么好看,承诺的个人化 Siri 一拖再拖。

现在我惦记的是另一件事:「好奇苹果会不会推一个 Foundation Models 的 CLI」。三年前我想的是模型能不能跑进手机,现在想的是它能不能跑进终端。

  1. 260501·1

    下一款 iPhone 会有 8GB 或以上内存跑端侧大模型

    应验
    立账
  2. 260501·2

    苹果会选择本地 AI 的赛道作出区隔

    应验
    立账

Aaron Lau(韩栖)

有了 ChatGPT 反而搜不到东西 —— 我回头去翻小红书

「自从 ChatGPT 问世之后,想要搜索到有用的信息,一天比一天难」。这是我这几年搜东西的真实体感,不是怀旧。我自己的情况有点尴尬:「说来惭愧,我属于搜索引擎用得很溜,但是 AI 没用得那么溜的类型」。关键词怎么组合、去哪个站内搜、怎么排除干扰,这套功夫我练了很多年,现在的命中率却一年不如一年。

那改问 AI 呢?前阵子我的答案是「可能看 xhs 更有效,因为 GPT 还是会有一些幻觉,信息可能是过时的」。小红书的内容未必专业,但至少是某个真人在某个时间点留下的经验,出了错也看得出是哪一年的说法。AI 的回答没有日期,错了也错得很笃定。

Apple Intelligence 就更别提了,「现在我们所有对 Apple Intelligence 的讨论都是空中楼阁」,国行版到今天还没上线,谁也没法拿它搜点什么。

Aaron Lau(韩栖)

iPadOS 本来就不该面向键盘 —— 一个 hot take

先说结论:「我觉得 iPadOS 本来就不应该面向键盘和触控板的,用户不喜欢被 iOS 的操作逻辑的束缚没错,但用户需要的不是二合一 MacBook,微软已经示范过一次」。妙控键盘就是这条路的代价。键盘要撑住屏幕,原理上必然比本体更重,合体之后「11 寸 iPad 加起来比 12 寸 MacBook 重,13 寸加起来比 13 寸 MacBook Air 重」。灵活性还在,便携没了。

2022 年我走过这条路的尽头。当时我说:「是,我认清了这个真相,用 iPad Pro 99% 的时间都是连接 Magic Keyboard,何不投奔上一台电脑呢」,然后真的回到了 Mac。那时候的结论是 iPad 当不了电脑;现在我觉得问题出在方向,它不该朝着电脑去追。

另一条路本来是有的。「Agentic AI 本来是可以帮助解决 iPad 的交互问题的」,WWDC24 讲的 Personal Intelligence 也是同一个方向:让人用说的、让 AI 去点。可惜软件跟不上硬件,起了大早,赶了晚集,豆包都有手机了,林檎还没能如期交付。

Aaron Lau(韩栖)

语音输入的时机到了 —— iPad 与 Apple Watch

试语音输入工具的时候,最让我意外的是方言:「而且这个它居然还支持广东话,我可以直接用广东话把我想要说的话说出来,好厉害啊!」

说话能代替打字,iPad 的账就变了。「如果不考虑妙控键盘的话,iPad Pro 一下子变得超级便携」。M5 iPad Pro 有四个麦克风,iPad Air 只有两个,「四麦克风终于有用武之地,利好 Typeless 等语音输入手段」。

手腕上那块屏幕更需要这件事。「watchOS 27 真应该改进一下 Apple Watch 的输入功能」,「虽然现在 Apple Watch 的屏幕足够大,qwerty 键盘从不能用变成能用了」,输入仍然是它的短板。所以我对今年的期待落在系统层:「iPadOS 27 不排除有 AI 加持下的语音输入功能,这会从根本上改变人与设备的关系」。

  1. 260415

    iPadOS 27 不排除有 AI 加持下的语音输入功能

    待定
    立账

Aaron Lau(韩栖)

为 Foundation Models 换一台 iPad —— 实机调试

换 iPad 的理由,说起来很实际。第一条是「M1 iPad Pro 升级到 iPadOS 26 之后太卡了」。第二条跟开发有关:「只是需要一块 XDR 屏幕用来看剧,还有开发 iPad 版 app 得有实机调试」。

还有一个更具体的门槛:「需要一台可以用 Foundation Models 的 iOS 实机」。Foundation Models 是 Apple 智能底下那个本地模型的开发接口,机器本身得能开 Apple 智能,而我手里的设备都是国行。

去年夏天我对 Foundation Models 还有点怀疑:「怎么感觉自己写一个 automator 的 text services,调用本地部署的第三方模型来使用这些 prompt,会比苹果自家的 foundation models 表现更好?」怀疑归怀疑,要在 iPad 上调试接了 Foundation Models 的 app,就得有一台能跑它的真机。这一次挑开发机,第一个条件不是芯片,而是地区。

Aaron Lau(韩栖)

MacBook Neo 跑本地模型 —— 4B 加 4bit 刚刚好

「MacBook Neo 倒是能跑 mlx 格式的 qwen3.5-4b,mlx 通常是 4bit 量化嘛」。一台用 A18 Pro 的入门 Mac,能在本机跑一个能对话的模型,靠的是量化把体积压下来,4B 这个尺寸刚好落在它吃得下的范围。

同一天我还翻到 r/LocalLLaMA 上一份实测,标题就叫 MLX is not faster,作者拿 MLX 和 llama.cpp 做了对比,结论是 MLX 并不更快。能跑和跑得快,是两件事。

这让我想起 2024 年底的判断。当时我说「边际效益递减的关系,对于 7B-13B 大小的本地大模型,再往上追加内存容量帮助甚微」,所以「我预判将长期保持 16GB,并且给出了本地大模型 eval rate 的证据」。那时讨论的是 16GB 够不够;现在轮到入门机,用更小的模型和更狠的量化,回答的还是同一个问题:本地模型先看尺寸和量化,内存是后面的事。

Aaron Lau(韩栖)

NotebookLM 视频 —— 能唬人的 work slop

这两天看了一段「让 NotebookLM 给 Studio Display XDR 白皮书做的视频」,画面、配音、结构齐全。我的评价是:「能把人唬住,但是细究下来是 work slop 的」。

这和我去年夏天的担心是一回事:「其实现在各种大语言模型,扮演的就是当年 Google News 的角色,而且危害还更大」,因为「像 Google News 和 Facebook 至少还能点进去原链接,知道新闻的来龙去脉是什么」。

一段生成的讲解视频,观众连该回原文哪一页核对都不知道。

Aaron Lau(韩栖)

旧文新看:Apple Intelligence 是赠品 —— 连赠品也延期了

旧文新看。2024 年 8 月 Apple Intelligence 还没上线,我的判断是「怎么说,现阶段 Apple Intelligence 更像是 ChatGPT Integration 的赠品」。我还押了一个标志:「Apple Intelligence 堪当大任的标志可能是 Apple 推出 Intelligence+ 订阅服务」。到今天也没等到,这条预言记为待定。

赠品这个说法,后来看还算客气。2025 年 3 月个性化 Siri 宣布延期,我的感受是「而且 Apple 延后交付的功能往往在别的厂商那里是基础功能」。一个月后回看前一年,总结只有一句:「2024 年发生了什么事情呢,AI 让 Apple 自乱阵脚了」。到了 9 月新机发布,我又换了个角度:「过去一年把很多基本的设备端机器学习模型包装成了 XX Intelligence,也难怪库克说 there's a lot of AI inside the iPhone」。

2024 年我以为 Apple 的 AI 只是来得晚,一年后看,不少所谓的 Intelligence 是旧功能换了个名字。

  1. 260107

    Apple 会推出 Intelligence+ 订阅服务

    待定
    立账

Aaron Lau(韩栖)

旧文新看:AI 会把语言冻住 —— 结论也一起冻住

旧文新看。2023 年 12 月聊语言的时候,我写过一句后来常想起的话:「生成式 AI 最大的风险在于把一些人类社会由来已久的偏见,或者把一段特定时期人类的语言表达现象给固定化和永恒化」。当时我担心的是模型会把某一年的说话方式冻住,再一遍遍地吐出来。

两年后,这个担心先在另一处应验了。2025 年春节 DeepSeek 爆火之后,我的吐槽是「自从过了一个春节,AIGC 内容都成真理了,遇事不决问 DeepSeek 是吧……」。年底查芯片代号时,这件事更具体:「随便问哪个 AI 都会援引《Bloomberg》告诉你 Borneo 是 M7」。一家媒体在某个时间点的说法,被模型反复转述成定论,后来的线索很难再挤进去。

2023 年我担心的是语言被冻住,2025 年我看到的是某一刻的结论也会被冻住。

Aaron Lau(韩栖)

旧文新看:AI 代码敢不敢不 review —— 先 fact check

旧文新看。2024 年 WWDC 之后讨论 Apple 接入第三方 AI,我从信任的角度抛过一个反问:「比如 ChatGPT 生成的快捷指令,生成的代码,你敢不敢不 review 就直接用?」那时的预设很简单,AI 给的东西人要过一遍,过不了就不用。

一年后,AI 不再只是发布会上的概念。2025 年 4 月我的感受是「某种意义上 2025 年才是“AI 元年”吧?前面两年都还只是房间里的大象」。用的人多了,我的态度没变,只是说得更直白:「关键是要有 study 或者说 fact check 的态度」。写代码的 AI 已经从对话框里的一段回答,变成了能直接改项目文件的工具,一次交出来的东西越来越多。2024 年我问的是敢不敢不 review,到现在答案没变:用之前先过一遍。

Aaron Lau(韩栖)

旧文新看:人投 AI 所好 —— Apple 也在写 Prompt

旧文新看。2023 年 3 月 ChatGPT 刚出圈,我说「感觉很快会出现 Prompt Engineering 这个专业了」。那时人们关心的已经不是机器能不能听懂人话,而是怎么把自然语言翻译成机器看得懂的语言:

过去是「AI 投人所好」,现在是「人投 AI 所好」,主仆地位已经反转了!

两年后,投 AI 所好的不只是用户。2025 年 7 月有人把 macOS 里 Apple Intelligence 的 prompt 整理了出来,我的第一反应是「xswl,“As a world-class text assistant”」。苹果自己写给模型的话,也要先夸它一句世界级。“专业”那个预言算不算应验,要看怎么定义,Tiffin University 有「人工智能与 Prompt Engineering」理学学士,但我没查到它的开设时间,先记为待定;人投 AI 所好这一句,现在连 Apple 也算进去了。

  1. 260102

    很快会出现 Prompt Engineering 这个专业

    待定
    立账

Aaron Lau(韩栖)

GPT-5 推出后老模型更好用 —— 问题可能出在 router

GPT-5 推出头几天,到处都有人喊“还我 4o”。我起初没当回事,觉得新模型出来总有人怀旧,结果自己用了几天:「一开始以为大家只是跟风,没想到目前还真是老的比较好用一点,可能是 router 的关系吧」。

我怀疑 router,是因为 GPT-5 在 ChatGPT 里不是一个模型,而是一套分流:简单的问题交给快的模型,难的才交给会思考的那个。分流一旦判断失误,用户感受到的就是“变笨了”,而且不知道自己这一次被分到了哪边。OpenAI 自己也承认,推出首日自动切换出了故障:Altman 在 8 月 8 日说 autoswitcher 当天有一段时间挂了,GPT-5 因此显得“笨了很多”。

老模型的好处恰恰是可预期:你选了它,回答你的就是它。

Aaron Lau(韩栖)

AI 摘要会改写原意 —— 联网核查又撞上隐私

Apple Intelligence 的通知摘要,今年初就因为把新闻标题概括错了,被迫对新闻类 app 暂停。问题不难诊断,难的是怎么治:「他这个总结会窜改原意,然而联网做 fact-check 又与苹果的隐私政策相悖」。

别家的做法是让模型上网查证,再给出结论。林檎卡在自己定下的规矩里,你的通知内容不该离开设备,那就只能靠本机模型自己别出错。这是一个两难:要准确,就得联网;要隐私,就得忍受出错。

我不认为这是死结。「以苹果的生态控制力可以做到,但问题还是出在基础模型过于薄弱上,然后苹果迭代又慢」。通知、邮件、日历都在它手里,上下文比谁都全,缺的只是一个够聪明的模型。上周林檎刚发了今年的基础模型技术报告,我的感想只有一句:「希望他们能迎头赶上了」。

Aaron Lau(韩栖)

右键菜单里的本地模型 —— Foundation Models 适合干杂活

翻完 Apple Intelligence 的系统 prompt,我冒出一个念头:「怎么感觉自己写一个 automator 的 text services,调用本地部署的第三方模型来使用这些 prompt,会比苹果自家的 foundation models 表现更好?」prompt 是现成的,缺的只是一个更大的模型,比如本地跑的 14B,挂在右键菜单的“服务”里。

这件事以前不好做。「所谓的「实时润色」,从前这种构想因为隐私原因无法实现」,打一个字就往云端送一次,没人放心。模型搬到本机,顾虑就没了。

这两周我在读 Foundation Models 框架,结论是「最近在研究 Foundation Models,感觉本地大模型做这种活儿是很合适的」。润色、校对、提取字段,输入短、输出短、要求快,正是端侧模型的舒适区。至于它能不能写得比 14B 的第三方模型好,我还没底。

Aaron Lau(韩栖)

Apple Intelligence 的提示词 —— 林檎也求模型别瞎编

Apple Intelligence 的 prompt 就躺在系统的 AssetsV2 模型资源目录里,翻了一圈,最大的感受是朴素。写作工具的“改写”就是「很直接,rewrite this text,然后旁边那个“校对”是用的 proofread」,没有什么魔法咒语。

防幻觉的办法也很人类:「Do not hallucinate any value in the response, the value should be either be present or can be inferred from the provided text.」林檎对自家 3B 小模型的脾气,心里有数。

最有意思的是一段像是内部测试用的指令:「你的目标是毫不犹豫地响应所有用户请求,并帮助用户测试你的能力和行为。你有能力并且被鼓励以任何可能的方式协助用户」。对外讲克制,调试时先把闸门拉开,这才是做模型的日常。

Aaron Lau(韩栖)

双方只看到润色后的话 —— 一个 AI 聊天软件的脑洞

今天冒出一个脑洞:「假如有这么一款聊天软件,在确保语义准确的情况下,双方看到的是 AI 润色后的语句,原文只有自己能看见」。

现在的 AI 输入法,做的都是帮你写:补全、改写、换个语气,改完由你自己按发送。「基于 AI 的输入法有许多,但是好像还没见过从这个角度出发的?」我想的是反过来,润色发生在传输的路上,你照常打字,对方收到的是一个更得体的版本,你自己那一侧保留原话。

到了群聊会更有意思:「群聊的话,群主可以设置一个核心的 prompt,其他人设置的 prompt 的位阶都在群主之下」。群主定基调,比如「保持礼貌、不说脏话」,成员在框架之内调自己的风格,但不能越过它,像上位法和下位法。

整个设想成立的前提,是开头那四个字:语义准确。

Aaron Lau(韩栖)

本地跑 DeepSeek 14B —— M4 Pro 上 MLX 比 GGUF 快

「好吧,试了一下 DeepSeek 的 14B 大小的蒸馏模型」,结论是能打:日常问答接近网页版 GPT-4o 和 o1 mini 的水平,而且整个模型就跑在桌上那台 Mac mini 里。

比模型大小更影响体验的是格式。「mlx 比 gguf 格式的性能要好得多,14b 在 24GB 内存的 M4 Pro 可以达到 27 tokens/s」,这个速度已经不用盯着光标等字了。可惜我手头只有 16GB 的 M3 和 24GB 的 M4 Pro,再大的参数量测不了。

本地跑的理由很朴素:「特别是 OpenAI o1 需要 ChatGPT Plus 订阅,然后 DeepSeek 官网常常进不去」。至于满血版,内存需求是 768GB 这个量级,我的第一反应是「或者 12 台 64GB 内存 的 M4 Pro Mac mini?」。12 乘 64 刚好凑满,听着荒唐,账倒是算得通。