- 検証/原文●duck 編集●ハッチ
「NPU Boost」にてNPUコアも自動で性能向上！
ASUSのマザーボードには、同社のテストデータによると最大24%程度の パフォーマンス向上が得られるという「NPU Boost」という自動調整機能も備わっている。
本機能は「Ai Overclock Tuner」の項目を「Auto」以外に変更すると、調整できるようになる。「NPU Boost」は、Level 1からLevel 3までと3段階から選択できる。
NPU Boostは、NPUの動作クロック向上を狙うための機能だ。。ただし、現時点ではNPUの動作倍率を任意に設定することはできず、SoC BCLK（ベースクロック）を引き上げることで動作クロックの向上を図る仕組みとなっている。
NPUはメモリコントローラーなどと同じくSoCタイル上に配置されている。そのため、NPU BoostではSoC BCLKの調整が行われるようだ。今回の検証環境では、各レベルを選択すると、SoC BCLKが以下のように設定されることを確認した。
- NPU Boost Level 1：110MHz
- NPU Boost Level 2：120MHz
- NPU Boost Level 3：130MHz
ちなみに、OCの際はBCLK調整が含まれているためか、メモリクロックが通常のDDR5-5600やDDR5-6000といった設定とは異なる、中途半端な数値が設定されている。万が一動作が安定しない場合は、CPU System Agent Voltageをわずかに引き上げることで安定性が改善する可能性がある。
なお、NPUはCPUコアとは異なる演算ユニットであるため、NPU Boostによる性能向上は、一般的なCPUベンチマークのスコアには基本的に反映されない。効果を確認するには、NPUを利用するAI処理など、NPUの演算性能を評価できるベンチマークを使用する必要がある。
今回の測定は「Geekbench AI」を使用している。AI Frameworkは、汎用性が高く、多くのプラットフォームで動作するオープン規格のONNX（オニキス）と、Intelハードウェアに特化したOpenVINO（オープンヴィーノ）を使用している。
スコアは「Single Precision Score」（単精度スコア）、「Half Precision Score」（半精度スコア）、「Quantized Score」（量子化スコア）の3つが表示される。duck氏によるとONNXでは、デフォルトからLevel 3まで試して、クロックはアイドル時とほぼ変わらなかったという。
一方で、OpenVINOではNPUクロックがデフォルトで732MHz/最大1600MHzのところ、以下のとおりに跳ね上がったとのこと。
- NPU Boost Level 1 : 806MHz/最大1760MHz
- NPU Boost Level 2 : 879MHz/最大1920MHz
- NPU Boost Level 3 : 953MHz/最大2080MHz
ちなみに、今回は次の4パターンで計測している。
- ONNX/CPU/Intel(R)Core(TM)Ultra7 270k Plus
- OpenVINO/CPU/Intel(R)Core(TM)Ultra7 270k Plus
- OpenVINO/NPU/Intel(R)Ai Boost
- ONNX/DirectML/NVIDIA RTX5070Ti
結果は上のグラフのとおりで、NPUクロックに比例してLevel 1からLevel 3まで順当にスコアが伸びている。やはりONNXに比べて、Intel謹製のOpenVINO使用時はスコアの上がり方が大きい。
しかしながら、GeForce RTX 5070 Ti使用時のスコアは別格だ。TensorコアはGPUの動作クロックに連動するため、GPUコアクロックを引き上げるオーバークロックによって、Tensorコアを利用するAI処理の性能向上も期待できる。
コメント