3行でいうと
- M6 Mac mini(メモリ32GB)に入れるローカルLLMを、一枚の表にまとめた。
- 見立てでは、入れる順はQwen3.8-27B、gpt-oss-20b、Gemma 4、Sarashina。
- 入れておくだけなら何個でも置けるが、同時に動かすのは1つにする。
- 数字の多くは他人の環境での測定で、この機種での確認はこれから。
クラウドのAIが使えなくなっても、仕事を止めないための備え。家庭のパソコンで動くAI(ローカルLLM)を、M6 Mac mini(メモリ32GB)を基準にして、一枚にまとめました。最終確認日は2026年10月6日です。モデルは入れ替わりが速いので、更新していきます。
まず、機械の前提
基準にしたのは、M6のMac mini(メモリ32GB)です。Appleの公表では、メモリは最大32GB、メモリ帯域は毎秒170GB、12コアのCPUと12コアのGPUを備えています。2026年9月22日に店頭で発売されました。
ローカルAIの速さは、メモリ帯域でほぼ決まります。独立した測定では、帯域は毎秒143〜144GB程度でした。9B(90億パラメータ)の4ビットモデルでは、文章の生成が毎秒約27トークンです(MindStudioの測定)。
ここで言う「32GBで動くか」は、モデルのファイルの大きさに加えて、会話の長さ(コンテキスト)の分の余裕が必要です。目安は、モデル本体を16〜20GB程度までに抑えることです。
早見表
| モデル | 開発元(国) | 大きさ | ライセンス | 目安のメモリ | ひとこと |
|---|---|---|---|---|---|
| Qwen3.8-27B | Alibaba(中国) | 27B(密) | Apache 2.0 | 4ビットで本体14.1GiB(約15GB) | 汎用、コード、画像・動画の入力。長い文章は262Kトークンまで。Splashなら32GBでも毎秒25〜15トークン(動画の実例) |
| Qwen3.6-35B-A3B | Alibaba(中国) | 総計35B(実際に動く部分は3B) | Apache 2.0(比較記事による) | 要確認 | 速さ重視。Splashで毎秒143トークン(M5 Pro) |
| Gemma 4 | Google(米国) | E2B・E4B・26B(MoE)・31B | Apache 2.0 | 要確認 | 小さい版(E2B・E4B)は音声・画像・動画の入力に対応 |
| gpt-oss-20b | OpenAI(米国) | 20B | Apache 2.0 | 16GB以上が目安。ディスクは約15GB | 道具を呼び出す作業(エージェント)が、国産より安定という実測がある |
| gpt-oss-120b | OpenAI(米国) | 120B | Apache 2.0 | 32GBでは現実的でない | 32GBの機械では対象外 |
| Sarashina | SB Intuitions(日本) | 7B〜70B | MIT | サイズによる | 日本語の文章向き。ツール呼び出しは非対応という実測 |
| ELYZA-JP / Swallow / LLM-jp-4 | 日本の各社・大学 | 8B前後 | LLM-jp-4はApache 2.0、他は要確認 | 8B級なら余裕 | 日本語の文書処理向き。エージェントは弱い |
| PLaMo | Preferred Networks(日本) | - | - | - | WebチャットとAPIで使える。手元に置ける重みは要確認 |
| cotomi | NEC(日本) | - | - | - | 個人は使えない。企業・官公庁向け |
「要確認」は、公式の資料で数字を確かめられていない項目です。推測では載せていません。
いま入れるなら、この順
ここは見立てです。
- Qwen3.8-27B:主力にします。4ビットで本体14.1GiB(約15GB)なので、文脈の長さを控えめにすれば、32GBに載ります。画像や動画も読めて、Apache 2.0なので仕事にも使えます。
- gpt-oss-20b:保険として入れます。開発元がアメリカで、道具を呼び出す作業の実測も良好でした。「中国製を使えない場面」の代わりになります。
- Gemma 4:小回りの用です。E4Bのような小さい版は、軽い作業や、音声・画像の入力に向きます。
- Sarashina:日本語の文書処理を、国産で完結させたいときに入れます。
どれも、ディスクは1つあたり十数GBです。入れておくだけなら同時に何個でも置けますが、同時に動かすのは1つにしてください。
入れ方
方法は3つあります。
1. LM Studio(画面で操作)
LM Studioのアプリを入れて、検索欄にモデル名を入れ、ダウンロードして、チャットを始めます。コマンドは不要です。まず試すなら、これがいちばん簡単です。
2. Ollama(コマンド)
Ollamaを入れて、ターミナルで次のようにします。gpt-oss-20bの例です。
ollama pull gpt-oss:20b
ollama run gpt-oss:20b
ほかのモデルは、名前(タグ)をOllamaの公式ページで確認してから入れてください。
3. Splash(Qwen3.8-27B専用の高速版)
いちばん簡単なのは、LM Studioを使う方法です。設定画面でShift+⌘+Rを押し、「Runtime」の「Engines & Frameworks」から「Splash (Metal)」をダウンロードします。そのあとモデル検索で「Inco AI」と入れ、フォーマットを「Splash」にして、Qwen3.8 27Bを落とします。
コマンドで使うなら、次のとおりです。
brew install incoai/tap/splash
splash serve --model incoai/Qwen3.8-27B-Splash
公式の条件は、M3以降、メモリ36GB以上です。ただし、M6 Mac mini(32GB)で動かした動画の実例があり、これまでの2倍ほどの、毎秒25〜15トークンが出ています。Akiraの手元でも、余裕で動いています。32GBでは、文脈の長さを大きくしすぎると読み込みでエラーになるので、18万トークンほどに抑えるのがコツです。詳しくは、Splashの記事に書きました。なお、このQwenは開発元のAlibabaではなく、Inco AIがまとめ直したものです。
何にどう使うか
| 使い道 | 向いているモデル | 理由と注意 |
|---|---|---|
| 日常の質問、要約、文章の下書き | Qwen3.8-27B | 考え込む「思考モード」は標準でオンです。リクエストごとにオフにできます。オフにすると、処理が大きく短くなったという報告があります |
| 画像・動画を読ませる | Qwen3.8-27B | 画像・動画の入力に対応しています |
| コードを書く、直す | Qwen3.8-27B | コードに強いという評価です |
| 道具を使う作業(ファイル操作など) | gpt-oss-20b | 国産モデルより、道具の呼び出しが安定していたという実測があります |
| 日本語の文書の整理 | Sarashina、Qwen3.8-27B | 国産で完結させたいならSarashina、精度ならQwen |
| 軽い作業、音声・画像の簡単な処理 | Gemma 4(E4Bなど) | 小さくて速い版です |
気をつけること
- 数字の多くは、ほかの人の環境での測定です。M6 Mac mini 32GBで、実際にどう動くかは、これから実機で確かめて、この表に足します。
- 日本語に強いことと、日本語でエージェントを作れることは、別の話です。ある実測では、SarashinaとELYZAは道具の呼び出しに非対応でした。この数字は1件の測定なので、参考として見てください。
- モデルのファイルは、公式の配布元から入れてください。まとめ直した版は便利ですが、誰が作ったかを確認してください。
出典
- Qwen/Qwen3.8-27B(Hugging Face)
- incoai/Qwen3.8-27B-Splash(Hugging Face)
- Apple Launches M6 And M5 Pro Mac Mini(Pulse 2.0)
- M6 Mac mini local AI performance(MindStudio)
- Google's Gemma 4 is now available with Apache 2.0 licensing(The Decoder)
- How to run gpt-oss-20b on Mac(9to5Mac)
- 国産LLMは公開されている。なぜ誰も知らないのか!(Zenn)
- 国産ローカルLLMを実測【地政学リスクと日本語エージェントの現実】(ai-local-lab)
- M6 Mac mini 32GBで27Bが高速化|話題の新技術「Splash」を実際に試してみた件(YouTube、ふじもった)
- Qwen3.8 27B overthinks(Hack-Log)
