「量子化」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| 6行目: | 6行目: | ||
アナログなセンサー値をデジタルデータ化する処理です。 | アナログなセンサー値をデジタルデータ化する処理です。 | ||
== | == 大きなデータを小さなデータに変換 == | ||
画像や音声の[[非可逆性圧縮]]で使われる「ここは削ってもいいだろ」などという判定処理のことです。 | |||
また、[[人工知能]]で使われている「[[FP32]]から[[FP16]]や[[FP8]]に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。 | |||
[[category: 量子化アルゴリズム]] | [[category: 量子化アルゴリズム]] | ||
2025年10月9日 (木) 02:38時点における版
量子化(りょうしか)とは、区切りのないアナログデータを一定の間隔で区切られた数値(デジタルデータ)に変換したり、大きなデジタルデータを小さなデジタルデータに丸め込んだりする処理の総称です。
最近流行りの「量子コンピュータ」とはまったくの別物です。
アナログからデジタルに変換
アナログなセンサー値をデジタルデータ化する処理です。
大きなデータを小さなデータに変換
画像や音声の非可逆性圧縮で使われる「ここは削ってもいいだろ」などという判定処理のことです。
また、人工知能で使われている「FP32からFP16やFP8に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。