「量子化」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| 6行目: | 6行目: | ||
アナログなセンサー値をデジタルデータ化する処理です。 | アナログなセンサー値をデジタルデータ化する処理です。 | ||
== | == 大きなデータを小さなデータに変換 == | ||
画像や音声の[[非可逆性圧縮]]で使われる「ここは削ってもいいだろ」などという判定処理のことです。 | |||
また、[[人工知能]]で使われている「[[FP32]]から[[FP16]]や[[FP8]]に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。 | |||
[[category: 量子化アルゴリズム]] | [[category: 量子化アルゴリズム]] | ||