不用 GPU，免費跑 31B 開源模型：gemma4:31b-cloud 完整使用指南

懶人包

Google DeepMind 在 2026 年 4 月推出的 Gemma 4，31B 版本在 Arena AI 開源模型榜排第 3，AIME 2026 數學推理拿 89.2%、Codeforces ELO 達 2150。

Ollama 推出 gemma4:31b-cloud，計算在雲端跑、你的機器不需要 GPU。

一行指令：ollama run gemma4:31b-cloud，免費使用，不用下載 20GB 模型。

支援 256K context、multimodal（text + image）、thinking mode、native function calling。

📌 目錄

• Gemma 4 31B 是什麼
• 為什麼選 31b-cloud 而不是本地版
• 免費取得方式：三條路
• 快速開始：5 分鐘跑起來
• 核心功能實際測試
• Gemma 4 家族比較表
• 我實際踩過的坑
• 常見問題 FAQ
• 延伸資源

🤖 Gemma 4 31B 是什麼

Gemma 4 是 Google DeepMind 在 2026 年 4 月 2 日釋出的開源模型家族，gemma-4-31b-it（instruct-tuned 版）是其中旗艦的 dense 模型，參數 30.7B。

幾個讓我特別注意到它的數字：

• Arena AI 開源模型排行第 3（2026 年 4 月資料）
• AIME 2026 數學推理 89.2%，跟很多閉源模型比並不差
• Codeforces ELO 2150，coding 能力明確可量化
• LiveCodeBench v6 80.0%
• MMLU Pro 85.2%

---

☁️ 為什麼選 31b-cloud 而不是本地版

我自己一開始以為 31B 模型一定要高階 GPU 才能跑，查了一下才發現 Ollama 出了個 gemma4:31b-cloud variant——計算跑在 Ollama 的雲端伺服器，你的機器只是客戶端，傳送 prompt、接收回應。

你需要的只是：

• 安裝 Ollama CLI（幾 MB）
• 網路連線
• Ollama 帳號（免費申請）

• 下載 20GB+ 的模型檔
• RTX 4090 或 A100
• 特殊記憶體或 VRAM 配置

cloud vs local 差異

💰 免費取得方式：三條路

路線一：Ollama Cloud（最快、最直接）

# 安裝 Ollama（macOS）
curl -fsSL https://ollama.com/install.sh | sh
# 直接跑，首次會引導登入/申請帳號
ollama run gemma4:31b-cloud

Ollama Cloud 提供免費方案，gemma4:31b-cloud 在免費額度內可以使用。登入後就能發 prompt，無需信用卡。

路線二：Google AI Studio + Gemini API

Google AI Studio 提供免費的 Gemma 4 playground 和 API key，可以在瀏覽器直接試用，也可以拿 API key 接程式：

# 取得 API key 後，用 curl 測試
curl -X POST \
  "https://generativelanguage.googleapis.com/v1beta/models/gemma-4-31b-it:generateContent?key=YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [{
      "parts": [{"text": "解釋 256K context window 實際上能做什麼"}]
    }]
  }'

注意：2026 年 6 月 19 日起，Gemini API 對無限制標準 key 限制更嚴，建議申請新 key 並設定 restriction。

路線三：OpenRouter 免費方案

OpenRouter 上 google/gemma-4-31b-it:free 是 $0/M input token、$0/M output token，用 OpenAI 相容 API 格式就能呼叫：

from openai import OpenAI
client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key="<你的 OpenRouter API key>",
)
response = client.chat.completions.create(
    model="google/gemma-4-31b-it:free",
    messages=[
        {"role": "user", "content": "分析這段 Python 程式碼的效能問題"}
    ]
)
print(response.choices[0].message.content)

免費方案有速率限制，一般開發測試夠用。

---

⚡ 快速開始：5 分鐘跑起來

Prereq

一鍵指令

# 1. 安裝 Ollama（若未安裝）
curl -fsSL https://ollama.com/install.sh | sh
# 2. 跑 cloud 版（首次會引導登入）
ollama run gemma4:31b-cloud
# 3. 驗證成功的樣子：會出現互動 prompt
# >>> 輸入你的問題

用 Python 呼叫（Ollama API）

from ollama import chat
response = chat(
    model='gemma4:31b-cloud',
    messages=[
        {'role': 'user', 'content': '解釋 Transformer attention mechanism'}
    ]
)
print(response['message']['content'])

啟用 Thinking Mode

Gemma 4 的 thinking mode 透過在 system prompt 加 <|think|> token 啟動，模型會先輸出內部推理過程再給最終答案：

from ollama import chat
response = chat(
    model='gemma4:31b-cloud',
    messages=[
        {
            'role': 'system',
            'content': '<|think|>'  # 啟動 thinking mode
        },
        {
            'role': 'user',
            'content': '證明 √2 是無理數'
        }
    ]
)
print(response['message']['content'])

驗證成功：回應裡能看到 ... 區塊包住推理過程，之後才是最終答案。

---

🧠 核心功能實際測試

256K Context Window

256K tokens 大約能放進去：

• 一整個中型 codebase（~15 萬行 code）
• 數百頁 PDF 文件
• 長達數小時的會議逐字稿

Multimodal：文字 + 圖片輸入

import base64
from ollama import chat
with open("screenshot.png", "rb") as f:
    img_b64 = base64.b64encode(f.read()).decode()
response = chat(
    model='gemma4:31b-cloud',
    messages=[{
        'role': 'user',
        'content': '描述這張截圖裡的 UI 問題',
        'images': [img_b64]
    }]
)

圖片支援可變解析度，透過 visual token budget 控制精度：

• 70 tokens → 快速、低細節
• 1120 tokens → 高精度、較慢

Native Function Calling

tools = [{
    'type': 'function',
    'function': {
        'name': 'get_weather',
        'description': '查詢指定城市天氣',
        'parameters': {
            'type': 'object',
            'properties': {
                'city': {'type': 'string', 'description': '城市名稱'}
            },
            'required': ['city']
        }
    }
}]
response = chat(
    model='gemma4:31b-cloud',
    messages=[{'role': 'user', 'content': '台北現在天氣怎樣？'}],
    tools=tools
)
# 模型會回傳 tool_call，不是自己編天氣

---

⚖️ Gemma 4 家族比較表

---

🔧 我實際踩過的坑

坑一：首次 ollama run gemma4:31b-cloud 沒有認證提示

症狀：跑指令後卡住，或直接報錯。
原因：Ollama 版本太舊，不支援 cloud variant 的認證流程。
解法：

# 更新 Ollama
curl -fsSL https://ollama.com/install.sh | sh
ollama --version  # 確認 0.6+

坑二：Google AI Studio API key 6 月後 401

症狀：原本可用的 API key 突然回 401。
原因：2026 年 6 月 19 日起，舊的無限制 standard key 被拒絕。
解法：去 AI Studio 重新產生有 restriction 的新 key。

坑三：Thinking mode 輸出太長

症狀：開了 thinking mode 後，模型輸出了幾千字的推理過程，才給幾行答案。
原因：thinking mode 設計就是這樣，推理 token 不計入「答案」。
解法：如果不需要看推理過程，移除 system prompt 的 <|think|> token，或在 parser 裡只取 之後的內容：

content = response['message']['content']
if '</think>' in content:
    answer = content.split('</think>')[-1].strip()

坑四：multimodal 圖片輸入沒反應

症狀：帶了圖片 base64，模型只回應文字 prompt 的部分，完全沒提到圖。
原因：prompt 格式錯誤，圖片要放在文字前面。
正確格式：

# ✓ 對：圖片在前，文字在後
messages=[{
    'role': 'user',
    'images': [img_b64],
    'content': '這張圖有什麼問題？'
}]
# ✗ 錯：文字在前
messages=[{
    'role': 'user',
    'content': '這張圖有什麼問題？',
    'images': [img_b64]
}]

---

❓ 常見問題 FAQ

Q：gemma4:31b-cloud 完全免費嗎？有額度限制嗎？

A：Ollama Cloud 提供免費方案，gemma4:31b-cloud 在免費額度內可用。OpenRouter 的 google/gemma-4-31b-it:free 是 $0/M token，但有速率限制。Google AI Studio 也有免費 playground 和 API。超量或高頻使用場景建議看各平台的付費方案。

Q：privacy 怎麼看？prompt 會被 Ollama 存嗎？

A：cloud variant 的 prompt 確實傳到 Ollama 伺服器處理。敏感程式碼或私人資料建議用本地版 gemma4:31b（需自備 GPU），或走 Google Cloud / Vertex AI 的企業方案。

Q：跟 Claude Sonnet 4 / GPT-4o 比怎麼樣？

A：Gemma 4 31B 是開源模型，Arena AI 排行 #3（開源）。閉源模型普遍仍在它前面，但差距在縮小。最大優勢是免費 + 開源 + 可本地部署，不是在所有 benchmark 都超越閉源模型。

Q：256K context 實際用起來穩嗎？

A：官方 benchmark 在 128K needles（MRCR v2）拿 66.4%，不是 100%。超長 context 的「needle in a haystack」測試顯示中間部分有衰減，這是目前所有長 context 模型的共通問題。

Q：台灣繁體中文輸出品質怎樣？

A：Gemma 4 支援 140+ 語言，繁體中文輸出測下來通順，但和 Claude 或 GPT-4o 相比，繁中細節處理還是有一點差距。日常使用沒問題，專業術語或複雜中文推理建議自己測一下。

---

🔗 延伸資源

• Gemma 4 官方 model card（Google AI） — benchmark 數字來源
• gemma4:31b-cloud on Ollama — 官方 library 頁
• Google AI Studio 免費試用 — 瀏覽器直接對話
• OpenRouter gemma-4-31b-it:free — $0 API 方案
• Gemma 4 on Google Cloud — 企業部署選項
• DevSpace 是什麼？把 ChatGPT 變 Codex 的 MCP 教學 — 同樣是「免費跑 AI coding agent」的玩法
• annsmemory 認知記憶外掛教學 — 搭配開源模型做長期記憶的應用