日本語で使うローカルモデルは「日本語のスコアの出どころ」を見て選ぶ：公式が日本語に強いと言うモデルと、評価表の読み方を、公式資料で確かめる

この記事は、実際に使って確かめた記録ではありません。この記事は公式の文書や論文を読んでまとめたものです。

先に結論

見立てです。日本語で手元のモデルを選ぶなら、「日本語向けに追加学習したと公式が言うモデル」と「もともと多言語の大きな汎用モデル」を、両方候補に入れるのがよいと思います。今回読んだSwallowの評価表では、汎用のGemma 4やQwen3.5が、日本語向けモデルより高い平均点を出している場面があるからです。

ただし、表の数字は評価の方法で変わります。以下、順に確かめます。

前提：言葉の整理

• ローカルモデル：自分のパソコンに置いて動かすAIです。重みのファイルが公開されている「オープンウェイト」のモデルが対象です。
• 推論モデル：答える前に、長い下書き（推論の過程）を書いてから答えるタイプです。賢くなりやすい反面、答えが出るまで時間がかかります。
• MoE（専門家混合）：モデルの中に「専門家」が多数あり、1語ごとに一部だけ使う作りです。「30B-A3B」は、全体で約30B（300億）パラメータ、実際に動くのは約3Bという意味です。メモリには全体を載せる必要があります。
• 量子化：数字の精度を落としてファイルを小さくする方法です。品質が少し下がる代わりに、メモリを節約できます。
• リーダーボード：同じ問題をいろいろなモデルに解かせて、点数を並べた表です。

日本語向けをうたう公式モデル

Swallow（東京科学大・産総研）

SwallowのサイトとHugging Face（モデルの置き場）のモデルカードによると、次のとおりです。

• Qwen3 Swallow（2026年2月20日公開）：AlibabaのQwen3に日本語を追加学習した推論モデル。8B、30B-A3B、32Bの3サイズで、ライセンスはApache 2.0（商用も可）です。公式は、使うときは推論モードを有効にするよう案内しています。
• GPT-OSS Swallow（同日公開）：OpenAIのgpt-ossを土台にした20Bと120B。2026年5月28日にMXFP4版（メモリを節約する形式）も出ています。推論の強さは「medium」で使うよう案内されています。
• 4ビットのAWQ版も用意されています。一方、GPTQ版は、同じ文を繰り返す問題が多く見つかったとして、2026年2月23日に公開を止めた、と書かれています。

LLM-jp-4（国立情報学研究所）

モデルカードによると、国立情報学研究所のLLM研究開発センターが作る8Bと32B-A3B（MoE）の推論モデルです。ライセンスはApache 2.0。学習に11.7兆トークンを使い、強化学習は使わずSFTとDPOで仕上げた、とあります。文脈の長さは65,536トークンです。学習データの多くが公開されている点が特徴です。

NVIDIA Nemotron-Nano-9B-v2-Japanese

NVIDIA Japanが追加学習した9Bのモデルで、モデルカードは「商用利用が可能」としています。ライセンスは、Apache 2.0ではなく、NVIDIA独自の「NVIDIA Nemotron Open Model License Agreement」です。NVIDIAの発表では、Nejumi Leaderboard 4の10B未満のカテゴリで1位とされています。推論の過程は、システムプロンプトでオンオフできます。

汎用モデルも候補に入る

日本語専用でなくても、多言語の大きなモデルが日本語で強いことがあります。

Gemma 4、Qwen3.5、gpt-ossのモデルカードには、「日本語」という語は書かれていませんでした（確認できた範囲）。つまり、日本語に強いかは、公式の説明ではなく、評価表で見ることになります。

評価表の読み方

Swallow Leaderboard v2

SwallowのチームがGemmaやQwenなど世界のモデルも同じ条件で測っている表です。日本語の平均は、日本の知識を問うJamC-QA、英日・日英翻訳、指示に従えるか（M-IFEval日本語版）、大学レベルの知識（MMLU-ProX日本語版）、科学の難問（GPQA日本語版）、数学（PolyMath日本語版）、コード（JHumanEval）などの合計です。

この表からいえることは、次の3点です。

僕らの読み取りです。（1）同じ土台の比較では、Swallow版は元のモデルを上回っています。Qwen3 Swallow 8B RLは0.510でQwen3-8Bの0.491、32B RLは0.555でQwen3-32Bの0.533、GPT-OSS Swallow 20B RLは0.568でgpt-oss-20bの0.521です。（2）日本の知識を問うJamC-QAは、追加学習の効果が見えやすい列です。gpt-oss-20bの0.405が、GPT-OSS Swallow 20B RLで0.562になっています。（3）表の上位には、日本語向けではないGemma 4 31Bが入っています。専用モデルが必ず上、とは限りません。

評価方法の改訂で、数字が変わる

Swallowの表には更新履歴があります。2026年5月8日に、評価の枠組みをv202604へ改訂しました。主な変更は、推論モデルの生成方法の変更（temperature 0.6、top-p 0.95）、GPQAとAIMEの試行回数を4回に、採点役のモデルをGPT-5.2に変更、MATH-100を外してPolyMathを採用、指示に従う力の指標を平均に加えた、などです。Gemma 4やQwen 3.5も、この改訂で追加されました。

その結果、同じモデルでも数字が違います。Qwen3 Swallow 8B RLの日本語平均は、2026年2月のモデルページでは0.557、いまの表では0.510です。GPT-OSS Swallow 20B RLも、モデルページの0.606に対し、いまの表は0.568です。別の時期に出た数字どうしを並べないのが、評価表を読むときの基本です。

Nejumiリーダーボード4

W&B Japanが運営する日本語の評価表です。2025年8月27日の発表では、高難度の推論（ARC-AGIなど）、深い知識（JMMLU-Pro、Humanity's Last Exam）、アプリ開発向けの力（SWE-Bench Verified、JHumanEval、BFCL）、安全性（M-IFEval、HalluLens）を加えたとあります。NVIDIAの説明では、約40のベンチマークで多角的に評価しています。評価コードは公開され、自社の環境で動かせるとされています。

Nejumiの個別の数字は、今回は直接読めませんでした（ページが画面の読み込みを必要とするため）。この記事では、運営者の発表とNVIDIAの説明に書かれた範囲だけを扱っています。

選ぶときの手順

見立てです。

1. メモリに載るかを先に決めます。32GBのMacなら、目安は4ビットでファイルが約16〜20GB以下のものです。僕らの計算です。4ビットを1つの重みあたり約5ビットと仮定すると、Gemma 4 31B（30.7B）は約19GB、Gemma 4 26B A4B（25.2B）は約15GB、Qwen3.5 27Bは約17GB、Qwen3 Swallow 32Bは約20GB、Qwen3.5 35B-A3Bは約21GBです。会話の記憶分も別に要るので、実際のファイルの大きさと照らしてください。
2. 用途に近い列を見ます。日本の話題を聞くならJamC-QA、英語と日本語の翻訳ならEn-Ja、Ja-En、指示に従ってほしいならM-IFEval、プログラムを書かせるならJHumanEval。平均より、使う場面の列が大事です。
3. 候補を2〜3個に絞り、自分の質問で比べます。普段の仕事の文章を、同じ順で聞いてみて、読みやすさと間違いを見ます。
4. 推論の長さを確かめます。推論モデルは、答える前に長く考えます。Qwen3.5のモデルカードは、標準で考える状態だと書いています。短い返事がほしい場面では、考えない設定にできます。

よくあるつまずき

• 表の数字を絶対視する。平均は、問題の選び方で変わります。上の改訂の例のとおりです。
• モデルの名前だけで選ぶ。同じ「Swallow」でも、CPT、SFT、RLの3段階があります。公式が完成版としているのはRLです。CPTとSFTは、実験用です。
• 元のライセンスを見落とす。Apache 2.0なら商用も自由度が高いですが、NVIDIAのモデルは独自ライセンスです。仕事で使うなら全文を読んでください。
• 量子化版の出どころを確かめない。同じ名前の再配布版が多く、品質が揃っていません。Swallowが一度、GPTQ版を取り下げた例があります。

気をつけること

• この記事は、実際に使って確かめた記録ではありません。日本語の品質は、評価表と公式の説明を読んだものです。
• 評価表は更新されます。この記事の数字は、2026年10月22日に読み直した時点のものです（10月8日に読んだ値と同じでした）。
• SwallowのチームはSwallow自身のモデルの作り手でもあります。表は「独自の評価実験」とされ、CC BY 4.0で公開されています。他社のモデルも同じ条件で測っている、と説明されていますが、第三者による検証をこの記事では確認していません。
• Gemma 4やQwen3.5は、Swallowの日本語向けモデルより新しい世代です。表の上で上に見えても、「日本語向けの追加学習が効かない」という意味ではありません。世代の違いを含めた比較です。
• 「最高性能」という表現は、各モデルのページで「同規模のオープンなモデルの中で」と条件が付いています。比較の対象や時期を確かめてください。
• NVIDIAの順位（Nejumi 4で10B未満の1位）は、NVIDIA自身の発表です。Nejumiの画面で確かめられていません。
• 32GBのMacでの速さや、実際に載るかは、確かめていません。メモリの見積もりは僕らの計算です。
• モデルの名前やバージョンは、短い期間で変わります。
• この記事は、モデルの優劣を決めるものではありません。

出典

• Swallow LLM（Swallow LLMチーム、2026年10月22日確認）
• Qwen3 Swallow（Swallow LLMチーム、2026年10月22日確認）
• GPT-OSS Swallow（Swallow LLMチーム、2026年10月22日確認）
• Swallow LLM Leaderboard v2（Swallow LLMチーム、2026年10月22日確認）
• Swallow LLM Leaderboard v2 About（更新履歴、2026年10月22日確認）
• Qwen3-Swallow-8B-RL-v0.2 モデルカード（Hugging Face、tokyotech-llm、2026年10月22日確認）
• GPT-OSS-Swallow-20B-RL-v0.1 モデルカード（Hugging Face、tokyotech-llm、2026年10月22日確認）
• llm-jp-4-8b-thinking モデルカード（Hugging Face、llm-jp、2026年10月22日確認）
• NVIDIA-Nemotron-Nano-9B-v2-Japanese モデルカード（Hugging Face、NVIDIA、2026年10月22日確認）
• NVIDIA Nemotron 2 Nano 9B Japanese（Hugging Face Blog、NVIDIA、2026年10月22日確認）
• gemma-4-26B-A4B-it モデルカード（Hugging Face、Google、2026年10月22日確認）
• Qwen3.5-27B モデルカード（Hugging Face、Qwen、2026年10月22日確認）
• Qwen3.5-35B-A3B モデルカード（Hugging Face、Qwen、2026年10月22日確認）
• Qwen3.5-9B モデルカード（Hugging Face、Qwen、2026年10月22日確認）
• gpt-oss-20b モデルカード（Hugging Face、OpenAI、2026年10月22日確認）
• Nejumi LLMリーダーボード4公開（ASCII STARTUP掲載、W&B Japanのプレスリリース、2025年8月27日、2026年10月22日確認）

更新履歴

• 2026年10月25日 書き方を直しました。
  • 前：運営者が使っていないと読める書き方 → いま：「この記事は、実際に使って確かめた記録ではありません」。公式の資料を読んでまとめた記事で、使い心地は書いていない、という意味に直した