本地端大語言模型中文能力簡單測試比較(llama3.2, gemma2:2b, gemma4:e2b, llama-3-taiwan-8b-instruct)

採用Intel CPU+Windows筆電實測比較一下本地端安裝的大型語言模型的中文能力，參加比賽的選手有llama3.2, gemma2:2b, gemma4:e2b, llama-3-taiwan-8b-instruct

 1. 安裝Ollama大語言模型管理工具

打開Windows PowerShell

執行

irm https://ollama.com/install.ps1 | iex

2. 檢查版本
ollama -v

> ollama -v

ollama version is 0.40.10

3. 安裝模型
在本實驗中，測試的開源大語言模型包括 llama3.2, gemma2:2b, gemma4:e2b, llama-3-taiwan-8b-instruct:latest

安裝指令如下
ollama run llama3.2
ollama run gemma2:2b
ollama run gemma4:e2b
ollama run cwchang/llama-3-taiwan-8b-instruct

4. 退出模型
/exit

5. 列出已安裝模型
ollama list

> ollama list

NAME                                         ID              SIZE      MODIFIED

cwchang/llama-3-taiwan-8b-instruct:latest    3f0396cc71cc    5.7 GB    4 minutes ago

gemma4:e2b                                   b37049369adf    4.6 GB    2 hours ago

gemma2:2b                                    8ccf136fdd52    1.6 GB    2 hours ago

llama3.2:latest                              a80c4f17acd5    2.0 GB    2 hours ago

6. 測試結果

llama3.2

回答快，但答案中有一些簡體字，英文字有拼錯，使用中英夾雜的方式有點怪

gemma2:2b

回答快，但答案中包含了好些簡體字

gemma4:e2b

前面的推論思考時間非常久，後面有正確使用正體中文回答，答案很長很完整

llama-3-taiwan-8b-instruct

針對正體中文微調過，回答速度表現好