「量子化」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| 7行目: | 7行目: | ||
== 大きなデータを小さなデータに変換 == | == 大きなデータを小さなデータに変換 == | ||
画像や音声の[[非可逆性圧縮]]で使われる「ここは削ってもいいだろ」などという判定処理のことです。 | 画像や音声の[[非可逆性圧縮]]で使われる「ここは削ってもいいだろ」などという判定処理のことです。[[JPEG]]や[[MP3]]などの「一般人は削っても気づかないだろ」という処理のことです。 | ||
また、[[人工知能]]で使われている「[[FP32]]から[[FP16]]や[[FP8]]に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。 | また、[[人工知能]]で使われている「[[FP32]]から[[FP16]]や[[FP8]]に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。 | ||
[[category: 量子化アルゴリズム]] | [[category: 量子化アルゴリズム]] | ||