我做 ThunderTalk,是因为试过的语音转文字应用都逃不出两类:一类只能走云端,识别很准,但我的麦克风录音也成了别人的训练数据;另一类号称"本地",却在悄悄联网下载或调用模型。我想要一个能读源码、能在飞机上离线用、开保密会议时也放心的工具。
为什么本地语音识别终于可行了
两年前,在笔记本上本地跑一个像样的语音识别模型,只有两个选择:Whisper-tiny,快但效果一般;或者 Whisper-large,效果好,但 10 秒的音频要算 8 秒。Apple Silicon 和 MLX 框架改变了这笔账:
- Qwen3-ASR-0.6B(MLX fp16) 在 M3 上的实时率约为 0.05,比你说话的速度快 20 倍。
- 模型只有 1.2 GB。 现在的 Mac 都放得下,预热之后首字延迟约 200 毫秒。
- 不用在 GPU 上妥协。 MLX 直接面向统一内存架构,不需要和 CUDA 封装或 Metal 适配层较劲。
实际效果是:按下快捷键就能说话输入,体验和云服务几乎没有区别,只是它在飞机上也能用,而且免费。
我低估了什么
模型不是难点。难的是这些:
- macOS 的权限流程。 麦克风、辅助功能、输入监控是三套独立的授权,而且应用每换一次文件夹就会被重新隔离。
- 全局快捷键。 PySide6 不提供系统级快捷键,我最后在
CGEventTap上写了一层很薄的 Objective-C 桥接。 - 热词。 开箱即用的识别模型会把团队里每个产品名和缩写都认错。Qwen3 的热词接口设计得不错,但没有文档,我专门写了一套集成测试,才摸清它接受什么、不接受什么。
2026 年 9 月更新:ThunderTalk 1.5
1.0 之后,ThunderTalk 从一个听写工具长成了一个小型的本地语音工作台。最大的变化是 Studio,它取代了原来的 Lab 页面:
- 转写。 拖入音频或视频文件,得到带时间戳的文字稿。开会录音可以用"多人说话"模式,由 MOSS-Transcribe-Diarize 标出每一段是谁说的,单次可处理约 90 分钟的录音。可导出 TXT、Markdown、SRT、VTT 或 JSON。解码用的是 macOS 自带的能力,不需要 ffmpeg。
- 朗读。 三个本地语音合成引擎:VoxCPM2(48 kHz,支持声音克隆)、IndexTTS-2.5(五种语言,克隆还原度很高)和 Kokoro(82M 参数,在 CPU 上约为 4 倍实时速度)。
- 我的声音。 录 5 到 15 秒自己的声音,它就能用你的声音读出任何文字。参考音频只保存在
~/.thundertalk/voices,不会离开本机。
听写本身也变好了:
- 更多模型。 Qwen3-ASR 0.6B 和 1.7B、SenseVoice-Small、NVIDIA Parakeet-TDT 以及 MOSS-Transcribe-Diarize。应用会读取你的硬件并推荐一个。Parakeet-TDT 在 M3 Max 上的实时率是 0.019,约为实时的 50 倍。
- 一些小而有用的改进。 中英文里说出的数字会转成阿拉伯数字,用 SeamlessM4T v2 翻译成 100 多种语言,可搜索的历史记录,以及应用内更新。
两点实际说明。ThunderTalk 现在需要 Apple Silicon 的 Mac,系统为 macOS 15 或更高;早期 README 写的是 macOS 12 和 Intel,那是错的。另外可以用 Homebrew 安装:
brew install --cask realallensong/tap/thundertalk
隐私上的承诺没有变:不用注册账号,没有订阅,你的音频不会离开你的 Mac。
如果你试用了,欢迎告诉我哪里有问题。仓库在 realAllenSong/ThunderTalk。