2026年11月16日

本地 AI 實戰(6):免費中文語音輸入最佳化﹍OpenWhispr 密技

本地 AI 實戰(6):免費中文語音輸入最佳化﹍OpenWhispr 密技

Wayne Fu 0 A+ 色
chinese-voice-input-optimization.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技之前進行 Windows「免費 AI 中文語音輸入工具評測」時,發現會有這樣的問題:
  • 免費開源語音模型因訓練素材多以簡中為主,常出現簡體字。
  • 辨識後的文字通常還需後處理模型,才能補上標點、潤飾排版及進行簡繁轉換
  • 簡繁轉換後的用詞不一定符合臺灣繁中的使用習慣。
目前有針對繁體中文最佳化的語音模型,為聯發科開發的「Breeze ASR 25」。然而,支援該模型的免費軟體「Handy」尚不支援內建後處理模型。 總之現在免費中文語音輸入還找不到完美解決方案,最接近的做法是使用「Handy + Breeze + LM Studio 本地後處理模型」,但設定與操作都不夠方便。 本篇將分享一個實測成功的方法,讓功能最強大的免費開源語音輸入軟體 OpenWhispr,即使預設不支援 Breeze,也能透過特殊技巧來執行,成為最佳免費繁體中文語音輸入方案。
部署本地 AI 系列文章:

一、語音輸入工具的模型檔案格式

1. Whisper 家族 首先了解一下 Breeze 模型是如何開發的,根據官網說明,Breeze 是利用最知名的開源語音模型,由 OpenAI 釋出的「Whisper」家族,其中的 Whisper-large-v2 進行訓練,加強繁中語意辨識、中英混用辨識,為目前繁中語音模型最佳選擇。 2. OpenWhispr 語音模型 chinese-voice-input-optimization-1.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技 OpenWhispr 支援 Whisper 各種版本的模型,在「語音轉文字」模型選單找到「OpenAI」,這裡都是 Whisper 各種版本的模型。如上圖,下載使用的模型是預設推薦的 Base。 3. Whisper 模型檔案可通用 chinese-voice-input-optimization-2.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技 OpenWhispr 裡面的 Whisper Base 模型,如上圖,我找到位於 Windows 以下路徑: C:\ProgramData\OpenWhispr\cache\whisper-models 而且經測試,我如果下載了 Whisper 其他模型,且把模型檔名改成 Base 的檔名 ggml-base.bin,OpenWhispr 仍會把其他版本的 Whisper 模型,識別為 Base,而且依然可以執行! 這就給了我們操作空間,只要能找到正確格式(副檔名 bin)的 Breeze 模型檔案,就能狸貓換太子,讓 OpenWhispr 執行 Breeze 模型! 4. Handy 的 Breeze 模型 chinese-voice-input-optimization-3.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技 但這件事也沒這麼簡單,找到 Handy 的 Breeze 模型資料夾,如上圖可看到檔案格式為 gguf,即使把 Handy 的模型檔丟過來,OpenWhispr 也認不得。 5. 聯發科 Breeze 模型 再到「聯發科 Breeze ASR 25」檔案頁面,裡面也沒有合適的 bin 檔。雖然能看到一個 optimizer.bin,但這非模型檔,無法使用。

二、Breeze 模型檔案下載

最終在 Hugging Face 這裡找到了合適的模型檔: chinese-voice-input-optimization-4.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技 已經有人將 Breeze 轉為 bin 格式的模型檔,下載 ggml-model.bin 這個檔案(3.09GB),就能在 OpenWhispr 使用了。

三、OpenWhispr 使用 Breeze 模型

1. 置換檔案 將剛剛下載的 ggml-model.bin 放到前面提過的 Whisper 模型資料夾: C:\ProgramData\OpenWhispr\cache\whisper-models 本篇前面舉例過,OpenWhispr 語音模型下載了原生支援的 Whisper Base 模型,那麼在此資料夾可看到檔案 ggml-base.bin(141 MB)。 接著將 ggml-base.bin 刪除,然後將 ggml-model.bin 改名為 ggml-base.bin 即可。 chinese-voice-input-optimization-5.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技 回到 OpenWhispr 設定畫面,如上圖,Base 模型的檔案大小已經從 141 MB 變成了 2951 MB,這便是 Breeze 模型的大小,代表 OpenWhispr 可正常讀取,接下來就能使用 Breeze 進行語音輸入。 2. 輸入效果 要怎麼知道語音輸入真的使用 Breeze 模型呢?OpenWhispr 有個獨家功能,即便 Whipser 家族的模型不支援文字預覽,OpenWhispr 仍然可以預先看到語音輸入的文字。 chinese-voice-input-optimization-6.jpg-本地 AI 實戰:免費中文語音輸入最佳化﹍OpenWhispr 密技 Breeze 以外的多語言語音模型,在語音輸入的預覽畫面,多半只能看到簡體中文。不過使用 Breeze 時,如上圖,預覽畫面是可以看到繁體中文的,這也代表 OpenWhispr 成功執行了 Breeze 模型!

四、OpenWhispr 語音輸入相關設定

接下來補充一些 OpenWhispr 設定,可以讓語音輸入的效能更好、操作更方便,首先進入系統選單的「設定」。 1. 偏好設定
  • 浮動圖示:開啟「閒置時自動隱藏」,語音圖示才不會長時間佔用視窗畫面的空間
  • 語言:除了「界面語言」選擇繁中,「轉錄語言」可選繁中(Chinese Traditional)
  • 啟動:開啟「登入時啟動」、「啟動時最小化」
  • 從校正中自動學習:根據官方說明,開啟這個功能,輸入後 30 秒內校正的文字,會自動新增到「字典」,但我實測並沒有作用。問了 AI 說是「中文」支援度不好,已經有很多使用者反應。但因為非英語系的程式很難寫,要等將來 OpenWhispr 新版看能否解決。
2. 語音轉文字模型
  • 開啟「GPU 加速」
  • 開啟「即時轉錄預覽」,語音輸入時可預先看到文字
3. 語言模型
  • 開啟「啟用文字整理」,AI 會移除語助詞,修正文法和加上標點符號
  • 開啟「GPU 加速」
  • 本機模型可以選最新版本 Qwen 3.5
    • 雖然系統推薦使用 9B,但佔用較多顯卡記憶體(5.5 GB)
    • 且 4B、2B 使用起來感覺不出差異,所以我目前選擇 Qwen 3.5 2B 作為後處理模型
    • 這也有可能我文字輸入的量還不夠大,沒遇上足以讓 Qwen 3.5 9B 發揮的地方,這一點留給讀者驗證
  • 開啟「停用思考輸出」,以免模型浪費時間去做沒必要的動作
  • 「保持模型載入」可視需求決定是否開啟:
    • 如果日常作業很少用到顯卡的話,可以開啟此選項,代表顯卡記憶體都給 OpenWhispr 用也沒關係
    • 如果常常需要跑 AI 模型、玩遊戲會用到顯卡,可關閉此選項
4. 隱私與資料
  • 音訊保留:在預設情況下,所有輸入的語音會存為檔案,保留在硬碟一段時間。如不需要可設定為「已停用」,避免佔用硬碟空間
  • 資料保留:同樣,視需求可關閉此功能
部署本地 AI 系列文章:
0 0
如這篇文章對你有幫助,歡迎「分享」到 FB、「追蹤」粉絲團、「訂閱」最新文章

沒有留言:

張貼留言注意事項:

◎ 勾選「通知我」可收到後續回覆的mail!
◎ 請在相關文章留言,與文章無關的主題可至「Blogger 社團」提問。
◎ 請避免使用 Safari 瀏覽器,否則無法登入 Google 帳號留言(只能匿名留言)!
◎ 提問若無法提供足夠的資訊供判斷,可能會被無視。建議先參考這篇「Blogger 提問技巧及注意事項」。
◎ CSS 相關問題非免費諮詢,建議使用「Chrome 開發人員工具」尋找答案。
◎ 手機版相關問題請參考「Blogger 行動版範本的特質」→「三、行動版範本不一定能執行網頁版工具」;或參考「Blogger 行動版範本修改技巧 」,或本站 Blogger 行動版標籤相關文章。
◎ 非官方範本問題、或貴站為商業網站,請參考「Blogger 免費諮詢 + 付費諮詢」
◎ 若是使用官方 RWD 範本,請參考「Blogger 推出全新自適應 RWD 官方範本及佈景主題」→ 不建議對範本進行修改!
◎ 若留言要輸入語法,"<"、">"這兩個符號請用其他符號代替,否則語法會消失!
◎ 為了過濾垃圾留言,所有留言不會即時發佈,請稍待片刻。
◎ 本站「已關閉自刪留言功能」。

TOP