「量子化」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| (同じ利用者による、間の1版が非表示) | |||
| 5行目: | 5行目: | ||
== アナログからデジタルに変換 == | == アナログからデジタルに変換 == | ||
アナログなセンサー値をデジタルデータ化する処理です。 | アナログなセンサー値をデジタルデータ化する処理です。 | ||
たとえばマイクなどで収録された音声などをデジタル化するのも「量子化」です。 | |||
== 大きなデータを小さなデータに変換 == | == 大きなデータを小さなデータに変換 == | ||
画像や音声の[[非可逆性圧縮]]で使われる「ここは削ってもいいだろ」などという判定処理のことです。 | 画像や音声の[[非可逆性圧縮]]で使われる「ここは削ってもいいだろ」などという判定処理のことです。[[JPEG]]や[[MP3]]などの「一般人は削っても気づかないだろ」という処理のことです。 | ||
また、[[人工知能]]で使われている「[[FP32]]から[[FP16]]や[[FP8]]に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。 | また、[[人工知能]]で使われている「[[FP32]]から[[FP16]]や[[FP8]]に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。 | ||
[[category: 量子化アルゴリズム]] | [[category: 量子化アルゴリズム]] | ||