Notifications
Clear all
新手入门与问答
0
帖子
1
Users
0
Reactions
13
查看
0
31/10/2026 9:57 上午
Topic starter
【官方常见问题精选】欢迎补充和追问。
Whisper 一类模型负责把语音转成文字（STT），本身不是聊天大模型。常见流程是：麦克风 → Whisper → 文本 → 本地 LLM →（可选）TTS 播报。
实践建议：
- faster-whisper / whisper.cpp 在消费级显卡或 CPU 上更省资源；模型尺寸从 tiny 到 large，越大越准也越慢。
- 中文场景可试 multilingual 或专门中文 ASR；嘈杂环境、方言、专业名词仍会错词，重要内容建议人工校对。
- 若与 LLM 同卡，注意显存：可先转录完再加载 LLM，或 ASR 用 CPU/小模型。
延迟与准确率强依赖硬件与音频质量，以下数字仅作量级参考：短句本地转写常见可在数秒内完成。欢迎补充你的链路方案。