モデル
Gemma 4 E4Bのローカル実行ガイド
Google DeepMind · Apache 2.0 · 最終確認
Gemma 4 E4Bは実効的なパラメータ数が小さく見えても、埋め込みテーブルを含む保存サイズは別です。ダウンロード前に量子化ファイルの実サイズを確認してください。
このモデルについて
小さいモデルなので速度は比較的出やすい一方、長いコンテキストやマルチモーダル入力では追加メモリが必要です。MLX対応パッケージかどうかも確認してください。
E4B means 4.5B effective parameters. The full checkpoint is about 8B parameters because the Per-Layer Embedding tables are stored even though they are lookup-only.
公開量子化ファイル
| 推奨量子化 | 重みファイル | 8K | GPU | Mac | 最小GPU／Macでのコンテキスト | 速度推定 | 実行コマンド例 |
|---|---|---|---|---|---|---|---|
| Q4_K_M | 5.97 GB | 7.7 GB | NVIDIA GeForce RTX 3060 12GB | Apple Mac mini M4 16GB | 131,072 / 131,072 | 推定 · Fast relative class | ollama run gemma4:e4b-it-q4_K_Mlms get "Gemma 4 E4B"@q4_k_m |
| Q4_0 | 6.15 GB | 7.9 GB | NVIDIA GeForce RTX 3060 12GB | Apple Mac mini M4 16GB | 131,072 / 131,072 | 推定 · Fast relative class | ollama run gemma4:e4b-it-qatlms get "Gemma 4 E4B"@q4_0 |
| Q8_0 | 9.19 GB | 11.0 GB | NVIDIA GeForce RTX 4060 Ti 16GB | Apple Mac mini M4 16GB | 131,072 / 131,072 | 推定 · Fast relative class | ollama run gemma4:e4b-it-q8_0lms get "Gemma 4 E4B"@q8_0 |
代表的なマシンでの互換性
NVIDIA GeForce RTX 4090 · 24 GB · 24 GB VRAM · 8,192 トークン
At least 20% memory headroom remains after weights, KV cache, and runtime overhead.
実行コマンド例
ollama run gemma4:e4b-it-q8_0lms get "Gemma 4 E4B"@q8_0
lms load <model-key-from-lms-ls> --gpu max --context-length 8192llama-cli -hf google/gemma-4-E4B-it -c 8192 -ngl 99 -p "Your prompt"mlx_lm.generate --model google/gemma-4-E4B-it --prompt "Your prompt" --max-tokens 8192対応ランタイム
- ollama
- llama.cpp
- mlx
FAQ
ダウンロード前に
Gemma 4 E4Bの最小ファイルサイズは？
公開されている最小の量子化はQ4_K_Mで、約5.97GBです。実行時にはKVキャッシュと約1.5GBのオーバーヘッドも必要です。
MoEはメモリを節約しますか？
MoEは1トークンあたりの計算量を減らせますが、重み全体は保存する必要があります。このモデルはDenseなので、すべての重みが常に必要です。
購入前に何を確認すべき？
実際に使う量子化、コンテキスト長、バックエンドの対応状況を確認してください。このページの推定はベンチマークではなく、公開データに基づく保守的な計算です。
Gemma 4 E4Bを8Kで快適に動かせるGPU／Macは？
Q4_K_Mは約7.7GB必要で、最小候補はNVIDIA GeForce RTX 3060 12GB／Apple Mac mini M4 16GBです。 Q4_0は約7.9GB必要で、最小候補はNVIDIA GeForce RTX 3060 12GB／Apple Mac mini M4 16GBです。 Q8_0は約11.0GB必要で、最小候補はNVIDIA GeForce RTX 4060 Ti 16GB／Apple Mac mini M4 16GBです。
収まらない場合、何を試すべき？
まず最小量子化と短いコンテキストを選びます。それでも不足する場合は、gpt-oss-20b、Qwen3.6 35B-A3B、Qwen3.8 27Bなど小さいモデルと比較してください。外部SSDは保存には使えますが、推論メモリは増えません。