「Google Gemma 4」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| (同じ利用者による、間の2版が非表示) | |||
| 8行目: | 8行目: | ||
[[Google TPU]]に最適化されており特定の[[GPU]]への依存もなく[[Mac]]でも快適に動きます。 | [[Google TPU]]に最適化されており特定の[[GPU]]への依存もなく[[Mac]]でも快適に動きます。 | ||
個人で上位モデルを動かすならMac一択です。 | 個人で上位モデルを動かすならMac一択です。 | ||
[[OpenClaw]] | [[OpenClaw]]でSeleniumを使ってGoogleニュースを巡回させて[[Moltbook]]にクソスレを立てさせていますが今のところ良い感じです。 | ||
== モデルファミリーとアーキテクチャ == | == モデルファミリーとアーキテクチャ == | ||
| 73行目: | 73行目: | ||
=== 16GBモデル === | === 16GBモデル === | ||
一番安いM4 Mac mini 16GBモデルでもE2BおよびE4Bが非常に快適に動作します。26B A4Bの4-bit量子化(15.6GB)は無理です。クラッシュはしないが絶望的に応答が遅いです。 | |||
=== 24GB / 32GBモデル === | === 24GB / 32GBモデル === | ||
26B A4B(4-bit)が余裕を持って動作し、実用的な速度が得られます。 | 26B A4B(4-bit)が余裕を持って動作し、実用的な速度が得られます。 | ||
31B Dense(4-bit/17. | 31B Dense(4-bit/17.4GB)も動作圏内ですが大規模なコンテキスト利用には急激なパフォーマンス低下を引き起こすので注意が必要です。推奨はしません。 | ||
=== 48GB / 64GBモデル(M4 Pro等)=== | === 48GB / 64GBモデル(M4 Pro等)=== | ||