本地跑Gemma 4!|免連網超強AI

你有沒有想過,不用連上網路,就能在自己的電腦上跑一個超強的AI模型?聽起來像是科幻電影的情節,但Google最新開源的Gemma 4讓這一切成真了。

這篇文章會教你,如何在你的Mac、Windows或Linux電腦上,完整安裝並執行Gemma 4。你不需要強大的雲端伺服器,不需要付費訂閱,更不用擔心你的資料被上傳到不知道哪個伺服器。一切都在你的電腦本地完成,速度快、隱私又安全

我們會從下載模型開始,一步一步帶你設定環境、安裝必要的工具,最後成功叫出AI幫你回答問題。無論你是寫程式的工程師、需要處理大量文件的上班族,還是單純對AI好奇的玩家,這篇教學都能讓你立刻成為本地AI高手

準備好了嗎?讓我們開始吧!

為什麼要跑本地AI?三大理由讓你心動

你可能會問:「我直接用ChatGPT或Gemini不就好了嗎?為什麼要這麼麻煩在本地跑?」

這問題問得好。本地AI的優勢,遠比你想像的還要強大。

第一,隱私完全由你掌控。 當你把文件或問題丟給雲端AI時,這些資料其實都上傳到對方的伺服器。如果你處理的是公司機密、客戶資料或個人隱私,用雲端AI其實有風險。本地跑的AI,資料永遠留在你的電腦裡,沒有人能看到你在問什麼

第二,完全免費,沒有用量限制。 ChatGPT Plus一個月要20美元,Claude Pro也要20美元。但Gemma 4是完全開源且免費的。你可以問它一千個問題、一萬個問題,完全不用付半毛錢。對於需要大量測試或長期使用的人來說,這省下的錢非常可觀。

第三,離線也能用,速度超快。 不需要網路連線,你在飛機上、捷運裡、甚至偏遠山區,只要有電腦就能用。而且因為不用經過網路傳輸,回應速度通常比雲端AI更快,幾乎是即時回覆

第一步:你的電腦跑得動嗎?硬體需求檢查

在開始之前,我們先來確認你的電腦是否適合跑Gemma 4。好消息是,Gemma 4有多種尺寸的版本,從輕量級的2B參數版本,到強大的12B參數版本,你可以根據自己的硬體來選擇。

最低需求(跑2B版本):

  • RAM: 8GB以上(建議16GB)
  • 儲存空間: 至少5GB可用空間
  • CPU: 任何現代雙核心處理器(Intel i3 / AMD Ryzen 3 以上)
  • GPU: 不需要獨立顯示卡(但有更好)

建議配置(跑12B版本):

  • RAM: 16GB以上(32GB更順暢)
  • 儲存空間: 至少20GB可用空間
  • GPU: NVIDIA顯示卡(8GB VRAM以上)或Apple Silicon Mac(M1/M2/M3/M4,建議16GB RAM以上)

我該選哪個版本?

  • 如果你用的是一般筆電(8GB RAM):建議跑Gemma 4 2B版本,速度流暢。
  • 如果你用的是高效能筆電或桌機(16GB RAM以上):可以試試Gemma 4 12B,能力更強。
  • 如果你有NVIDIA顯示卡或Apple Silicon Mac:可以跑量化版(GGUF格式)的12B,在效能與速度之間取得平衡。

第二步:下載並安裝Ollama — 你的AI管家

要讓Gemma 4在你的電腦上跑,最簡單的方式就是使用Ollama這個工具。它就像是一個AI管家,幫你處理所有複雜的設定,你只需要下載模型並下指令就好。

下載Ollama的步驟:

  1. 打開你的瀏覽器,前往 ollama.com
  2. 點選 Download 按鈕。
  3. 選擇你的作業系統版本:macOS、Windows或Linux
  4. 下載完成後,雙擊安裝檔,按照畫面指示完成安裝(Windows版本可能需要允許安裝)。

安裝完成後,你會在工作列或選單列看到一個駱駝圖示,這代表Ollama已經在背景運作,準備好為你服務了。

第三步:用一條指令下載Gemma 4

現在是最令人興奮的部分——下載並執行Gemma 4。Ollama讓這件事變得非常簡單。

在Windows上:

  1. 按下 Windows鍵 + R,輸入 cmd,然後按Enter打開命令提示字元。
  2. 輸入以下指令並按Enter:
ollama run gemma4:2b

在macOS或Linux上:

  1. 打開 終端機(Terminal)。
  2. 輸入以下指令並按Enter:
ollama run gemma4:2b

就是這麼簡單!Ollama會自動下載Gemma 4 2B版本的模型(大約1.5GB),然後自動載入。當你看到 >>> 這個符號出現時,代表AI已經準備好回答你的問題了

如果你想跑更強大的版本,可以改成:

ollama run gemma4:12b

這個版本大約9GB,需要比較久的時間下載,但能力更強。

第四步:開始跟AI對話!實戰測試

當你看到 >>> 提示符號,就可以開始輸入任何問題了。讓我們來測試幾個實際案例:

測試1:寫一封專業的電子郵件

輸入:

幫我寫一封給客戶的郵件,通知他們產品出貨延遲一週,並提供10%折扣作為補償。語氣要專業且誠懇。

Gemma 4會立刻生成一封完整的郵件草稿,你可以直接複製貼上使用。

測試2:解釋複雜概念

輸入:

用簡單的方式解釋什麼是「區塊鏈」,讓一個完全不懂科技的人也能聽懂。

你會發現Gemma 4用生活化的比喻來解釋,非常適合用來學習新知識。

測試3:程式碼除錯

輸入:

我有一段Python程式碼,想要讀取CSV檔案並計算每欄的平均值,可以幫我寫嗎?

對於開發者來說,這功能簡直是神器

小技巧: 如果你想要結束對話,輸入 /bye 就可以了。下次要再用,只要再次輸入 ollama run gemma4:2b 即可。

第五步:進階玩法 — 用圖像和文件提問

如果你下載的是Gemma 4 12B版本,它還支援圖像理解和文件分析。你可以這樣做:

分析圖片: 先輸入圖片的路徑,然後問問題:

ollama run gemma4:12b
>>> 請描述這張圖片的內容:/Users/你的名字/Desktop/photo.jpg

讀取PDF或文字檔: 你可以把文件內容貼進去,或使用Ollama的API來整合更多功能。

這意味著你可以讓AI幫你讀合約、分析圖表、甚至看懂發票,全部都在你的電腦本地完成,資料不外洩

延伸閱讀

常見問題

Q: 我的電腦跑起來很慢,怎麼辦? A: 建議先使用2B版本,它對硬體要求最低。如果還是慢,可以在Ollama設定中降低執行緒數(執行 ollama run gemma4:2b --num-threads 2)。

Q: 下載到一半網路斷了,要重新下載嗎? A: 不用擔心,Ollama支援斷點續傳。重新執行 ollama run gemma4:2b,它會從中斷的地方繼續下載。

Q: Gemma 4和ChatGPT哪個比較厲害? A: 在一般問答和寫作任務上,Gemma 4 12B的表現非常接近ChatGPT 3.5。但在非常複雜的推理或專業領域知識上,ChatGPT 4仍略勝一籌。不過Gemma 4完全免費、離線可用、保護隱私,這些是它最大的優勢。

Q: 我可以把Gemma 4用在商業專案上嗎? A: 可以!Gemma 4使用的是Google的Gemma授權條款,允許商業使用。但建議你還是閱讀一下完整的授權文件,確認符合你的使用場景。

Q: Ollama支援中文嗎? A: 完全支援。Gemma 4經過了多語言訓練,中文對話能力非常流暢,你可以直接用繁體中文提問。