「Kimi K2.6」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) |
||
| 10行目: | 10行目: | ||
== ローカルAI版 == | == ローカルAI版 == | ||
オープンモデルなのでローカル環境でも動作させられるようですが、VRAMは「'''584GB'''」ほど必要だそうです。分散に対応しているので複数台の合計で584GB以上あればいいそうです。NVIDIA | オープンモデルなのでローカル環境でも動作させられるようですが、VRAMは「'''584GB'''」ほど必要だそうです。分散に対応しているので複数台の合計で584GB以上あればいいそうです。NVIDIA B200(700万円〜)が4台あればいけそうです。メモリ256GBのMac Studioを4〜5台くらい連結しても動くかもしれません。なおNVIDIA B200環境で40 tokens/sだそうです。 | ||
== クラウドAI版 == | == クラウドAI版 == | ||