NPUとは？初心者向けに分かりやすく解説します

ニューラルネットワークとは、人間の脳神経系であるニューロンを数理モデル化したものです。脳の神経細胞が入力された情報を伝播し、出力する様子を模したものがニューラルネットワークで、NPUはこの推論処理を高速化する役割を担っています。NPUが登場する前はCPUやGPUがAIの推論処理を行っていましたが、高い負荷がかかるため他のアプリの処理速度が落ちるなどの問題点がありました。NPUがあることによって、高速で効率的なAI処理を可能としています。

2024年9月時点において、NPUが搭載されているのはまだ一部のAIパソコンのみとなっています。従来のパソコンにはCPUが搭載されているのに対し、AIパソコンにはCPUに加えてNPUが搭載されたことで、さまざまなAI処理が可能となりました。近年は幅広い分野でAIの導入が進んでおり、今後もAIの重要性は増していくでしょう。NPUが搭載されたパソコンの普及率も今後さらに高まっていくと考えられます。

CPUは中央演算処理装置とも呼ばれ、パソコンの頭脳に相当する役割を担っています。パソコンの演算や各デバイスの制御を行うのもCPUで、多用なワークロードを処理できるのがCPUの強味です。ただし、CPUは限られた数個のコアで処理を行うため、並列で大量の処理にはあまり適していません。AI処理では並列タスクを効率的に処理することが重要となってくるため、ニューラルネットワークの処理に特化したNPUは、AI処理においてCPUの弱点を補っています。

GPUとは、グラフィック処理に特化したプロセッサーのこと。ゲームのグラフィック処理などに使われることが多いGPUですが、陰影や光の反射の描画などでは膨大な演算を必要とします。この膨大なタスクを高速で並列計算できるGPUの特徴を生かし、データセンターでの大規模な機械学習やビッグデータの処理などでも活用されています。一方、NPUは低電力で高速かつ効率的なAI推論を行うことを得意とし、それぞれの端末内でAI機能をサポートします。

TOPSは「Tera（またはTrillions） of Operations Per Second」の頭文字をつなげたもので、TeraやTrillionsは兆を意味します。つまりTOPSとは、1秒間に何兆回の演算処理を実行することができるかを表す指標ということになります。ここでいう演算処理とはAIの機械学習でよく使用される整数演算である場合がほとんどで、TOPSはAIの動作速度を示す指標として重要な意味を持っています。

AIパソコンとしてはTOPSの性能が気になりがちですが、パソコンの性能はTOPSだけで判断できるものではありません。CPUやGPU、メモリー、ストレージなどにかかる負荷の大きさや各リソースの使用状況などによって、処理能力は大きく変動することがあります。また、通信環境など複合的な要因によってもパソコンの処理速度は変わってくるため、AI用途でパソコンを使用するからといってTOPSだけに注目すれば良いわけではないという点は留意しておきましょう。

エッジAIとは、ユーザーの手元にある端末に直接搭載したAIのことをいいます。従来はクラウドAIが主流で、AI処理を行う際は一旦データをクラウド上にアップロードし、クラウド上にあるAIで処理を行っていました。手元の端末にAIが搭載されることにより、同時翻訳やリアルタイムの会話型AIなどの機能を使用することができるようになりました。ただし、エッジAIは機能に限界があるため、大規模なデータの分析や処理はクラウドAIを使用するなど用途に応じて使い分けることが大切です。

画像生成などのAI処理は、高性能なGPUを搭載していない普通のパソコンでも一応は実行することができます。ただし、1枚当たりの生成時間が長くなってしまうため、実用化するのであればグラボが必要です。NPUを搭載していない普通のパソコンでAI処理を行う場合、CPUのリソースがAI処理に割かれてしまい、他の処理が重くなってしまう可能性があります。しかし、NPUを搭載したAIパソコンなら、GPUなしでもある程度の動画編集などのAI処理を快適に行うことができるでしょう。

CPUやGPUでAI処理を行うよりも、NPUの方が消費電力が少なくて済むというメリットがあります。CPUの場合は32ビットなど精度の高い浮動小数点演算を行いますが、機械学習においてはそこまで精度の高い演算が必要ないことも。NPUは8ビットや16ビットなどの低精度演算を使用することで、低消費電力でのAI処理が可能です。ちなみに低精度であるからと言ってAI処理の精度にはほとんど影響はないと言われており、NPUを搭載することでノートパソコンのバッテリー駆動時間は今後さらに延びるだろうと期待されています。

エッジAIでは処理を行う際にクラウドにデータをアップする必要がないため、セキュリティ面でのリスクを軽減できるのも魅力です。クラウドAIの場合はデータを処理するのにインターネットを介するため、どうしても不正アクセスや情報漏えいといったリスクが潜んでいます。もちろん全てのAI処理を手元の端末に搭載されたAIだけで行うのではなく、必要に応じてエッジAIとクラウドAIを併用することも大切です。しかし、機密性の高い重要なデータを扱う企業にとっては、一々クラウドにデータを送信しなくても良いというのは大きなメリットとなるでしょう。

Copilot+PCを称するためにはMicrosoftが策定した要件を満たし、さらにMicrosoftの認証を受ける必要があります。以下がハードウエア要件です。

• NPUの処理能力が40TOPS以上
• メインメモリーは16GB以上
• ストレージは256GB以上のSSD

ポイントとしては、パソコン全体のTOPSではなくNPU単体のTOPSが40以上であることです。この要件を満たすパソコンは2024年9月時点ではまだ少なく、現状Copilot+PCとして認証されているのはQualcommのSnapdragon X Elite/Plusを搭載したパソコンのみとなっています。

Qualcommはアメリカに本社を置く、半導体製造や通信技術関連の設計開発などを行っている企業です。3G携帯電話の通信技術である「CDMA」を実用化したり、スマホ用のチップセットである「Snapdragon」を開発したりするなど、モバイル関連の半導体の設計・開発に強みを持っています。2024年にはCopilot+PCとしての要件を満たす、NPU性能が45TOPSのSoC「Snapdragon X Elite/Plus」を発表しました。

Appleはアメリカに本社を置く、iPhoneやiPad、Macなどでおなじみの企業です。2020年には当時最もパワフルなチップとしてMac用のSoC「M1」を発表。それから4年後の2024年5月には次世代SoC「M4」が発表されました。M4のNPU性能は38TOPSといわれており、Copilot+PCの要件にはわずかに届かないものの、パソコンだけでなくiPadにも搭載されるSoCとして注目を集めています。

Intelはアメリカに本社を置く半導体メーカーで、パソコン用のCPUは世界的に大きなシェアを獲得しています。そんなIntelは2023年12月にNPUを搭載したプロセッサー「Core Ultra」を発表。Meteor LakeアーキテクチャをベースとしたCore UltraにはNPUが搭載されており、リアルタイム翻訳などのAI機能を利用できるようになりました。2024年5月にはMeteor Lakeの後継となるLunar Lakeが発表されています。

AMDはアメリカに本社を置く半導体メーカーで、CPUのRyzenシリーズやグラボのRadeonは世界中で高い人気を誇ります。2023年1月に発表したエントリーモデルを除くRyzen 7040シリーズでは既にNPUが搭載されており、x86プラットフォームとしては世界初のAIエンジン搭載モデルとして注目を集めました。2024年6月にはCopilot+PCの要件を満たす55TOPSのNPUを搭載したRyzen AI 300も発表しています。

NPU性能の高いSoCを搭載したCopilot+PCなら、クラウドを経由しなくてもさまざまなAI処理を端末のみで実行することができます。しかし、2024年9月時点ではCopilot+PCを称することができるのはQualcommのSnapdragon X Elite/Plusを搭載したパソコンだけです。QualcommのアーキテクチャはIntelやAMDとは異なるため、古いアプリが動作しない可能性があります。Prismなどのエミュレーターで対応可能とのことですが、まだまだ未検証な部分も多く残っています。

パソコンがAI処理を実行できるスペックを持っていても、実際に処理を行うためのアプリが無ければAI機能を使うことができません。AIパソコンはまだ登場して間もないため、アプリ側がAIに対応していないというケースも多いでしょう。今後さまざまなアプリがAIに対応していくと考えられますが、現時点ではまだできることは少ないため過度な期待は禁物です。

Snapdragonを搭載したパソコンは安いものなら13万円程度で購入することができますが、より上位のモデルになると30万円を超えるモデルもあります。NPUを搭載していない一般的なパソコンと比べると価格が高く、AI処理を行うなら同価格帯でも高性能なグラボを搭載したゲーミングPCやクリエイター向けPCという選択肢もあります。現時点で生成AIなどを利用したい人は、NPUよりもグラボを優先した方が良いかもしれません。

Lenovo Yoga Slim 7x Gen 9

「Lenovo Yoga Slim 7x Gen 9」はSnapdragon® X Elite X1E-78-100 Processorを搭載した14型のノートパソコンです。Copilot+PCとしての認証を受けており、キーボードには従来の Windows キーに代わって新たにCopilotキーを搭載。簡単なボタン操作でCopilotを起動することができます。45TOPSの性能を誇るNPUを搭載しており、比類ないパフォーマンスを発揮します。

Lenovo IdeaPad 5x 2-in-1 Gen 9

「Lenovo IdeaPad 5x 2-in-1 Gen 9」はCopilot+PCでありながら、約13万円弱とリーズナブルな価格設定のノートパソコンです。プロセッサーはSnapdragon® X Plus X1P-42-100で、NPU性能は45TOPS以上と言われています。2-in-1のデザインとなっており、タブレットのような使い方も可能。スリムで頑丈なデザインは携帯性に優れ、有機ELディスプレイを採用しているため美しく明るい映像を楽しめます。

ThinkPad T14s Gen 6

「ThinkPad T14s Gen 6 」は14型のCopilot+PCです。搭載しているプロセッサーのSnapdragon® X Elite X1E-78-100は、12コアのQualcomm Oryonによりパワフルなパフォーマンスで高速な反応を実現。32GBのメモリーを搭載しており、端末内でCopilotの処理を実行しつつ他のタスクを進めることも可能です。