「Kimi K2.6」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) |
||
| 8行目: | 8行目: | ||
== ローカルAI版 == | == ローカルAI版 == | ||
オープンモデルなのでローカル環境でも動作させられるようですが、VRAMは「'''584GB'''」ほど必要だそうです。分散に対応しているので複数台の合計で584GB以上あればいいそうです。メモリ256GBのMac | オープンモデルなのでローカル環境でも動作させられるようですが、VRAMは「'''584GB'''」ほど必要だそうです。分散に対応しているので複数台の合計で584GB以上あればいいそうです。メモリ256GBのMac Studioを3〜4台くらい連結すれば動くかもしれません。なお複数のNVIDIA B200で40tokens/sだそうなので遅すぎて無理かも。 | ||
== クラウドAI版 == | == クラウドAI版 == | ||