返回文章列表English

做 ThunderTalk:一个基于 MLX、完全本地的 Typeless 替代品

我为什么做了一个完全在本机运行的开源语音输入应用,MLX 改变了什么,发布 1.0 的真实成本是什么,以及 1.5 新增的 Studio、本地语音合成和声音克隆。

我做 ThunderTalk,是因为试过的语音转文字应用都逃不出两类:一类只能走云端,识别很准,但我的麦克风录音也成了别人的训练数据;另一类号称"本地",却在悄悄联网下载或调用模型。我想要一个能读源码、能在飞机上离线用、开保密会议时也放心的工具。

为什么本地语音识别终于可行了

两年前,在笔记本上本地跑一个像样的语音识别模型,只有两个选择:Whisper-tiny,快但效果一般;或者 Whisper-large,效果好,但 10 秒的音频要算 8 秒。Apple Silicon 和 MLX 框架改变了这笔账:

  • Qwen3-ASR-0.6B(MLX fp16) 在 M3 上的实时率约为 0.05,比你说话的速度快 20 倍。
  • 模型只有 1.2 GB。 现在的 Mac 都放得下,预热之后首字延迟约 200 毫秒。
  • 不用在 GPU 上妥协。 MLX 直接面向统一内存架构,不需要和 CUDA 封装或 Metal 适配层较劲。

实际效果是:按下快捷键就能说话输入,体验和云服务几乎没有区别,只是它在飞机上也能用,而且免费。

我低估了什么

模型不是难点。难的是这些:

  1. macOS 的权限流程。 麦克风、辅助功能、输入监控是三套独立的授权,而且应用每换一次文件夹就会被重新隔离。
  2. 全局快捷键。 PySide6 不提供系统级快捷键,我最后在 CGEventTap 上写了一层很薄的 Objective-C 桥接。
  3. 热词。 开箱即用的识别模型会把团队里每个产品名和缩写都认错。Qwen3 的热词接口设计得不错,但没有文档,我专门写了一套集成测试,才摸清它接受什么、不接受什么。

2026 年 9 月更新:ThunderTalk 1.5

1.0 之后,ThunderTalk 从一个听写工具长成了一个小型的本地语音工作台。最大的变化是 Studio,它取代了原来的 Lab 页面:

  • 转写。 拖入音频或视频文件,得到带时间戳的文字稿。开会录音可以用"多人说话"模式,由 MOSS-Transcribe-Diarize 标出每一段是谁说的,单次可处理约 90 分钟的录音。可导出 TXT、Markdown、SRT、VTT 或 JSON。解码用的是 macOS 自带的能力,不需要 ffmpeg。
  • 朗读。 三个本地语音合成引擎:VoxCPM2(48 kHz,支持声音克隆)、IndexTTS-2.5(五种语言,克隆还原度很高)和 Kokoro(82M 参数,在 CPU 上约为 4 倍实时速度)。
  • 我的声音。 录 5 到 15 秒自己的声音,它就能用你的声音读出任何文字。参考音频只保存在 ~/.thundertalk/voices,不会离开本机。

听写本身也变好了:

  • 更多模型。 Qwen3-ASR 0.6B 和 1.7B、SenseVoice-Small、NVIDIA Parakeet-TDT 以及 MOSS-Transcribe-Diarize。应用会读取你的硬件并推荐一个。Parakeet-TDT 在 M3 Max 上的实时率是 0.019,约为实时的 50 倍。
  • 一些小而有用的改进。 中英文里说出的数字会转成阿拉伯数字,用 SeamlessM4T v2 翻译成 100 多种语言,可搜索的历史记录,以及应用内更新。

两点实际说明。ThunderTalk 现在需要 Apple Silicon 的 Mac,系统为 macOS 15 或更高;早期 README 写的是 macOS 12 和 Intel,那是错的。另外可以用 Homebrew 安装:

brew install --cask realallensong/tap/thundertalk

隐私上的承诺没有变:不用注册账号,没有订阅,你的音频不会离开你的 Mac。

如果你试用了,欢迎告诉我哪里有问题。仓库在 realAllenSong/ThunderTalk。