差分

ナビゲーションに移動 検索に移動

1bit LLM

57 バイト追加, 2024年4月17日 (水)
編集の要約なし
これにより
* GPUの回路の99%くらいが使われなくなる
* 三択の分岐はGPUよりCPUの方が強い
* GPUの並列性は有用なのでコア数勝負ではまだCPUより強い
* GPUに代わるデバイスが登場する可能性があるGPUやCPUに代わるデバイスが登場する可能性がある
1bit LLMは
最近の人工知能でよく使われているバーテックスシェーダー系の行列演算メインの回路ではなく、
古典的なGPGPUで使われたピクセルシェーダー系の技法(回路)を使え爆速な気がする。古典的なGPGPUで使われたピクセルシェーダー系の技法(回路)を使えば爆速な気がする。
[[category: 人工知能]]

案内メニュー