量子化
量子化(りょうしか)とは、区切りのないアナログデータを一定の間隔で区切られた数値(デジタルデータ)に変換したり、大きなデジタルデータを小さなデジタルデータに丸め込んだりする処理の総称です。
最近流行りの「量子コンピュータ」とはまったくの別物です。
アナログからデジタルに変換
アナログなセンサー値をデジタルデータ化する処理です。
大きなデータを小さなデータに変換
画像や音声の非可逆性圧縮で使われる「ここは削ってもいいだろ」などという判定処理のことです。JPEGやMP3などの「一般人は削っても気づかないだろ」という処理のことです。
また、人工知能で使われている「FP32からFP16やFP8に変換」なども同様の処理です。「ここは削ってもいいだろ」という判定を行い32ビットから8ビットなどに丸め込んでいます。