之前進行 Windows「免費 AI 中文語音輸入工具評測」時,發現會有這樣的問題:
- 免費開源語音模型因訓練素材多以簡中為主,常出現簡體字。
- 辨識後的文字通常還需後處理模型,才能補上標點、潤飾排版及進行簡繁轉換
- 簡繁轉換後的用詞不一定符合臺灣繁中的使用習慣。
部署本地 AI 系列文章:
一、語音輸入工具的模型檔案格式
1. Whisper 家族 首先了解一下 Breeze 模型是如何開發的,根據官網說明,Breeze 是利用最知名的開源語音模型,由 OpenAI 釋出的「Whisper」家族,其中的 Whisper-large-v2 進行訓練,加強繁中語意辨識、中英混用辨識,為目前繁中語音模型最佳選擇。 2. OpenWhispr 語音模型
OpenWhispr 支援 Whisper 各種版本的模型,在「語音轉文字」模型選單找到「OpenAI」,這裡都是 Whisper 各種版本的模型。如上圖,下載使用的模型是預設推薦的 Base。
3. Whisper 模型檔案可通用
OpenWhispr 裡面的 Whisper Base 模型,如上圖,我找到位於 Windows 以下路徑:
C:\ProgramData\OpenWhispr\cache\whisper-models
而且經測試,我如果下載了 Whisper 其他模型,且把模型檔名改成 Base 的檔名
但這件事也沒這麼簡單,找到 Handy 的 Breeze 模型資料夾,如上圖可看到檔案格式為 gguf,即使把 Handy 的模型檔丟過來,OpenWhispr 也認不得。
5. 聯發科 Breeze 模型
再到「聯發科 Breeze ASR 25」檔案頁面,裡面也沒有合適的 bin 檔。雖然能看到一個 二、Breeze 模型檔案下載
最終在 Hugging Face 這裡找到了合適的模型檔:
已經有人將 Breeze 轉為 bin 格式的模型檔,下載 三、OpenWhispr 使用 Breeze 模型
1. 置換檔案 將剛剛下載的C:\ProgramData\OpenWhispr\cache\whisper-models
本篇前面舉例過,OpenWhispr 語音模型下載了原生支援的 Whisper Base 模型,那麼在此資料夾可看到檔案
回到 OpenWhispr 設定畫面,如上圖,Base 模型的檔案大小已經從 141 MB 變成了 2951 MB,這便是 Breeze 模型的大小,代表 OpenWhispr 可正常讀取,接下來就能使用 Breeze 進行語音輸入。
2. 輸入效果
要怎麼知道語音輸入真的使用 Breeze 模型呢?OpenWhispr 有個獨家功能,即便 Whipser 家族的模型不支援文字預覽,OpenWhispr 仍然可以預先看到語音輸入的文字。
Breeze 以外的多語言語音模型,在語音輸入的預覽畫面,多半只能看到簡體中文。不過使用 Breeze 時,如上圖,預覽畫面是可以看到繁體中文的,這也代表 OpenWhispr 成功執行了 Breeze 模型!
四、OpenWhispr 語音輸入相關設定
接下來補充一些 OpenWhispr 設定,可以讓語音輸入的效能更好、操作更方便,首先進入系統選單的「設定」。 1. 偏好設定- 浮動圖示:開啟「閒置時自動隱藏」,語音圖示才不會長時間佔用視窗畫面的空間
- 語言:除了「界面語言」選擇繁中,「轉錄語言」可選繁中(Chinese Traditional)
- 啟動:開啟「登入時啟動」、「啟動時最小化」
- 從校正中自動學習:根據官方說明,開啟這個功能,輸入後 30 秒內校正的文字,會自動新增到「字典」,但我實測並沒有作用。問了 AI 說是「中文」支援度不好,已經有很多使用者反應。但因為非英語系的程式很難寫,要等將來 OpenWhispr 新版看能否解決。
- 開啟「GPU 加速」
- 開啟「即時轉錄預覽」,語音輸入時可預先看到文字
- 開啟「啟用文字整理」,AI 會移除語助詞,修正文法和加上標點符號
- 開啟「GPU 加速」
- 本機模型可以選最新版本 Qwen 3.5
- 雖然系統推薦使用 9B,但佔用較多顯卡記憶體(5.5 GB)
- 且 4B、2B 使用起來感覺不出差異,所以我目前選擇 Qwen 3.5 2B 作為後處理模型
- 這也有可能我文字輸入的量還不夠大,沒遇上足以讓 Qwen 3.5 9B 發揮的地方,這一點留給讀者驗證
- 開啟「停用思考輸出」,以免模型浪費時間去做沒必要的動作
- 「保持模型載入」可視需求決定是否開啟:
- 如果日常作業很少用到顯卡的話,可以開啟此選項,代表顯卡記憶體都給 OpenWhispr 用也沒關係
- 如果常常需要跑 AI 模型、玩遊戲會用到顯卡,可關閉此選項
- 音訊保留:在預設情況下,所有輸入的語音會存為檔案,保留在硬碟一段時間。如不需要可設定為「已停用」,避免佔用硬碟空間
- 資料保留:同樣,視需求可關閉此功能
部署本地 AI 系列文章:
沒有留言:
張貼留言注意事項:
◎ 勾選「通知我」可收到後續回覆的mail!
◎ 請在相關文章留言,與文章無關的主題可至「Blogger 社團」提問。
◎ 請避免使用 Safari 瀏覽器,否則無法登入 Google 帳號留言(只能匿名留言)!
◎ 提問若無法提供足夠的資訊供判斷,可能會被無視。建議先參考這篇「Blogger 提問技巧及注意事項」。
◎ CSS 相關問題非免費諮詢,建議使用「Chrome 開發人員工具」尋找答案。
◎ 手機版相關問題請參考「Blogger 行動版範本的特質」→「三、行動版範本不一定能執行網頁版工具」;或參考「Blogger 行動版範本修改技巧 」,或本站 Blogger 行動版標籤相關文章。
◎ 非官方範本問題、或貴站為商業網站,請參考「Blogger 免費諮詢 + 付費諮詢」
◎ 若是使用官方 RWD 範本,請參考「Blogger 推出全新自適應 RWD 官方範本及佈景主題」→ 不建議對範本進行修改!
◎ 若留言要輸入語法,"<"、">"這兩個符號請用其他符號代替,否則語法會消失!
◎ 為了過濾垃圾留言,所有留言不會即時發佈,請稍待片刻。
◎ 本站「已關閉自刪留言功能」。