量子化

量子化（りょうしか）とは、区切りのないアナログデータを一定の間隔で区切られた数値（デジタルデータ）に変換したり、大きなデジタルデータを小さなデジタルデータに丸め込んだりする処理の総称です。

最近流行りの「量子コンピュータ」とはまったくの別物です。

アナログからデジタルに変換

アナログなセンサー値をデジタルデータ化する処理です。 たとえばマイクなどで収録された音声などをデジタル化するのも「量子化」です。

大きなデータを小さなデータに変換

画像や音声の非可逆性圧縮で使われる「ここは削ってもいいだろ」などという判定処理のことです。JPEGやMP3などの「一般人は削っても気づかないだろ」という処理のことです。

また、人工知能で使われている「FP32からFP16やFP8に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。