3行でいうと

  • llama.cppの公式の対応表には、AMD向けのHIP、Intel向けのSYCLとOpenVINO、Snapdragon向けのOpenCLとHexagonがあります。
  • Intel NPU向けのOpenVINO版は「進行中」、Snapdragon NPU向けのHexagon版は「試験的」と書かれています。
  • AMDのNPUは、AMDのRyzen AI Software（OGA）で動かす形で、GPU側はllama.cppを使う、と書かれています。
  • 同じGPUでも、AMDの対応表とOllamaの対応表で、載っている型番が違います。

この記事は、実際に使って確かめた記録ではありません。この記事は公式の文書や論文を読んでまとめたものです。見立ては、段落の頭に書いて分けています。

先に結論

文書を読んだ範囲では、NVIDIA以外で「確実に広く動く」のは、GPUを使う経路です。NPU（AI向けの専用チップ）を使う経路は、道具ごとに、対応するチップ、モデル、機能が狭く、文書自体が「試験的」「進行中」と書いています。

見立てです。Windowsで非NVIDIAのパソコンを使うなら、まずGPU側（Vulkan、AMDならHIP、IntelならSYCL）で動かし、NPUは「省電力で常駐させる用途」を試す段階、と考えるのが無難だと思います。Macの人には直接使う話ではなく、他社機の記事の言葉を読む手がかりになります。

前提：用語

llama.cppの対応表を読む

llama.cppのREADME（masterブランチ）の「Supported backends」の表から、今回の話に関係する行です。

バックエンド 対象
Vulkan GPU（ベンダーを問わない）
HIP AMD GPU
SYCL Intel GPU
OpenVINO（進行中） IntelのCPU・GPU・NPU
OpenCL Adreno GPU
Hexagon Snapdragon
ZenDNN AMD CPU（ビルド文書ではEPYC向け）

複数のバックエンドを同時にビルドでき、実行時に --device で選べる、とビルド文書にあります（--list-devices で一覧）。

AMD

GPU（llama.cpp）：ビルド文書は、ROCmを入れてHIPバックエンドを作る手順を載せています。Linuxの例では、-DGGML_HIP=ON と対象のGPU（例：gfx1030）を指定します。公式にはない型番のGPUでも、HSA_OVERRIDE_GFX_VERSION で近い型番を装うことができる、とあります。ただし、この設定はWindowsでは使えない、と書かれています。

ROCmの公式の対応表：AMDのRadeon/Ryzen向けの互換性ページ（ROCm 7.2.1）の記載は次のとおりです。Linuxで、Radeon RX 9000系の一部（9060、9060 XT、9070、9070 XT、9070 GRE）、RX 7000系の一部（7900 XTX、7900 XT、7900 GRE、7800 XT、7700、7700 XT）、Radeon PRO、Radeon AI PROが対象です。OSは、Ubuntu 24.04.4、22.04.5、RHEL 10.1です。RX 7600とRX 6800は、この表にありません。Windowsは別のページで、今回は読んでいません。

Ollamaの対応表：Ollamaの文書は、LinuxのROCm対応にRX 7600やRX 6800系を載せています。Windowsは、RX 7900系から7600までと、Radeon PROの一部です。AMD自身の表より広い範囲です。さらに、ROCmが対応しないGPUには、Vulkanで対応する、とあります。

NPU（Ryzen AI）：AMDのRyzen AI Softwareの文書（1.8.0）によると、LLMの実行は、NPUだけ、NPUと内蔵GPUの併用（ハイブリッド）、GPUのみ（llama.cpp）、CPUの4通りです。NPUとハイブリッドは、ONNX Runtime GenAI（OGA）という別の道具で動かします。対応する本体は、Ryzen AI 300系です。Ryzen AI 7000/8000系はGPUとCPUのみで、NPUは使えません。導入の条件は、Windows 11（ビルド22621.3527以降）、NPUドライバー32.0.203.280以降などです。対応モデルは、AMDが用意した最適化済みのもの（Llama、Mistral、Qwen、Gemma、Phiなど）が中心です。

Intel

GPU（SYCL）：llama.cppのSYCL文書は、Intel GPU向けとして、Arc A・Bシリーズ、Meteor Lake・Arrow Lake・Lunar Lakeの内蔵Arc、第11世代以降のCoreの内蔵GPUなどを挙げています。注意が3つあります。まず、内蔵GPUで実行ユニット（EU）が80未満だと、実用には遅すぎるだろう、と書かれています。次に、7Bの4ビットモデルには、内蔵GPUで8GB以上、独立GPUで4GB以上が要る、とあります。最後に、2026年2月に、SYCL版のNVIDIA・AMD GPU対応は削除された、とあります。

OpenVINO版（NPUを含む）：llama.cppのOpenVINO文書は、IntelのCPU・GPU・NPUを同じGGUFのモデルで動かすバックエンドを説明しています。冒頭の注意書きで、性能、メモリ、精度確認、量子化の範囲、演算とモデルの対応は「作業中」とされています。検証は、Core Ultra Series 1・2のAI PCで行われ、表は、Core Ultra 5 238V（Lunar Lake）、メモリ32GBのUbuntuでの結果です。

OpenVINO版のNPUの制約（文書の「Known Limitations」）
  • NPU：量子化の主な形式はQ4_0で、Q6_Kは基本的にQ4_0_128に再量子化されます。
  • NPU：既定の文脈長がモデルの学習時の長さ（例：Llama 3.2 1Bで131072）になり、メモリ不足や失敗が起きうるため、-c 1024 のように明示します。
  • NPU：プロンプトの処理（プリフィル）は固定の塊（既定256）で行われます。llama-server の複数並列（-np > 1）は未対応です。
  • 検証表：Llama 3.1 8B（Q4_K_M）のNPUは合格、Qwen3.5の各サイズのNPUは不可、Gemma 4 E4BのGPUは不可、などの差があります。

IPEX-LLM：IntelのIPEX-LLMは、以前はllama.cppやOllamaをIntel GPUで動かす簡単な方法として案内されていました。リポジトリのREADMEの冒頭に「このプロジェクトはアーカイブ済み」とあり、開発や保守を保証しない、既知のセキュリティ問題がある、と書かれています。日付は、GitHubの画面で2026年1月28日と表示されていました（1回の確認です）。

Qualcomm（Snapdragon X）

GPU（OpenCL）：llama.cppのOpenCL文書は、Adreno GPUを最初の対象としています。確認済みの機器に、Adreno X1-85（Snapdragon X Elite）とX2-90（Snapdragon X2 Elite）、Windows 11 Arm64があります。Q4_0、Q4_K、Q6_K、Q8_0などの形式に対応、と表にあります。

NPU（Hexagon）：llama.cppのSnapdragon文書は、CPU、Adreno GPU（OpenCL）、Hexagon NPUの3つを挙げ、起動ログでHexagonを「試験的」と表示しています。1つのNPUセッションで使える仮想アドレス空間は約3.5GBで、大きいモデルは、重みを入れ替えながら動かす、あるいは複数セッションに層を分ける、と説明されています。文書の例は、Llama-3.2-1BのQ4_0で、プロンプト処理が約169トークン/秒、生成が約52トークン/秒です。どの機種で測ったかは、その部分には書かれていませんでした。Windowsでは、NPU用のライブラリに署名が要り、文書は自分の証明書とテスト署名モードの設定手順を案内しています。

Microsoftの層（Windows ML、Foundry Local）

Windows MLは、ONNX Runtimeを土台にした、Windowsの端末内AI推論の枠組みです。実行プロバイダーは、必要に応じてダウンロードされ、Windows 11 24H2（ビルド26100）以降が対象です。文書の表（2026年4月28日付の版）にある主な5つは次のとおりです。

実行プロバイダー ベンダー 条件（文書の記載）
MIGraphX AMD 特定のGPUドライバー版が要件。GenAI用途は未対応
OpenVINO Intel CPUは第11世代以降、GPUは第12世代以降、NPUはArrow Lake以降など
QNN Qualcomm Snapdragon X Elite / X Plus のNPU、ドライバー30.0.140.0以降
VitisAI AMD AdrenalinとNPUドライバーの版に最小と最大がある
NvTensorRtRtx NVIDIA GeForce RTX 30系以上

MIGraphXのドライバー条件は、読んだ版によって「ちょうどこの版」とも「以降」とも読めたため、ここでは版の数字を載せません。見立てです。AMDのVitisAIの条件には最大の版も書かれているので、ドライバーを新しくしすぎても対象外になりうるのではないかと思います。

Foundry Localのページには、QualcommのNPU、NVIDIAのGPU、CPUのうち最適なものを自動で選ぶ、とあります。AMDやIntelは、そのページには出てきません。

ツールごとの違い

選び方の目安

見立てです。

  1. AMDのRadeonがある：Ollama（ROCm、または対象外ならVulkan）が最短だと思います。llama.cppならVulkanかHIPです。型番がROCmの表にあるかを先に見てください。
  2. IntelのArc・内蔵Arc：llama.cppのSYCLかVulkanです。IPEX-LLMは、アーカイブ済みなので、新しく始めるなら避けるのが無難だと思います。
  3. Snapdragon X：LM Studio（ARM対応）か、llama.cppのOpenCL版です。NPUで大きなLLMを動かすのは、試験的な範囲と見ています。
  4. NPUを試したい：AMDならRyzen AI Software、IntelならOpenVINO、QualcommならQualcommとMicrosoftの経路です。道具が別々なので、同じモデルを同じ手順で動かせる前提では考えないほうがよいと思います。

よくあるつまずき

気をつけること

出典

更新履歴