「1bit LLM」を編集中
この編集を取り消せます。 下記の差分を確認して、本当に取り消していいか検証してください。よろしければ変更を保存して取り消しを完了してください。
最新版 | 編集中の文章 | ||
10行目: | 10行目: | ||
これにより | これにより | ||
* GPUの回路の99%くらいが使われなくなる | * GPUの回路の99%くらいが使われなくなる | ||
− | |||
* GPUの並列性は有用なのでコア数勝負ではまだCPUより強い | * GPUの並列性は有用なのでコア数勝負ではまだCPUより強い | ||
− | * | + | * GPUに代わるデバイスが登場する可能性がある |
1bit LLMは | 1bit LLMは | ||
最近の人工知能でよく使われているバーテックスシェーダー系の行列演算メインの回路ではなく、 | 最近の人工知能でよく使われているバーテックスシェーダー系の行列演算メインの回路ではなく、 | ||
− | + | 古典的なGPGPUで使われたピクセルシェーダー系の技法(回路)を使え爆速な気がする。 | |
[[category: 人工知能]] | [[category: 人工知能]] |