MediaTek APU 655
MediaTek APU 655とは、MediaTekが自社のスマートフォン向け SoC に搭載する専用のニューラルプロセッシングユニット（NPU）です。
概要 編集
APU 655は、MediaTekの第6世代AI処理ユニットで、NPU（Neural Processing Unit）とも呼ばれる。このプロセッサは、前世代のAPU 650と比較して約2倍のAI処理効率を提供する。また、全体的なAI性能は前世代より15%向上している。
特にAIカメラタスクにおいては顕著な性能向上が見られ、UNET Benchmarkにおいて最大94%の高速化、電力効率は63%向上したと報告されている。この性能向上は、画像処理やカメラ機能の強化に大きく貢献している。
APU 655は混合精度データタイプをサポートし、メモリ帯域幅の効率的な利用と大規模AIモデルでのメモリ要件削減を実現する。これにより、より複雑なAI処理をモバイル環境で効率的に実行できる。
開発環境やAPI = 編集
NeuroPilot SDK 編集
MediaTekのAPU 655は、同社のAI開発プラットフォームであるNeuroPilot SDKを通じて利用される。NeuroPilotは、TensorFlow、PyTorch、TensorFlow Lite、Caffe、Caffe2、Amazon MXNet、Sony NNablaなどの主要なAIフレームワークをサポートしている。
Android Neural Networks API（NNAPI）対応 編集
APU 655はAndroid Neural Networks API（NNAPI）をサポートしており、Android 8.1（APIレベル27）以降のデバイスで利用できる。NNAPIは機械学習の計算集約的な処理をAndroidデバイス上で実行するためのC APIで、TensorFlow LiteやCaffe2などの上位レベル機械学習フレームワークの基盤機能を提供する。
MediaTekはNeuron Adapter APIを通じてNNAPIを拡張し、開発者がハードウェアに近いレベルでプログラミングできるようにしている。これにより、CPUと比較して最大95%のエネルギー消費削減を実現できる。
Paddle Lite対応 編集
APU 655はBaidu社のPaddle Liteフレームワークもサポートしている。PaddleモデルからMediaTekのNeuron Adapter APIへの変換により、オンラインでネットワーク構築と実行が可能である。