3行でいうと

  • 1〜4B級の小さなモデルは、スマホやラズベリーパイの中で動く。4ビットなら、1B級は1GB未満、2〜4B級は数GB。
  • 形の決まった作業（要約、書き換え、翻訳、抜き出し）は任せられるが、事実を聞く相手には向かない。
  • Google AI Edge Galleryというアプリで、Gemma 4を端末の中で動かせる。ネットなしで使えるが、ベータ版。
  • 点数や速度は、ほとんどが開発元の自社測定。独立した検証は確認できていない。

AIは大きいほど賢い、とは限りません。いまは、1〜4B（10億〜40億パラメータ）級の小さなモデルが、スマホやラズベリーパイの中で動く時代です。この記事では、出典で確認できる範囲で、何ができて何が苦手かを書きます。32GBのMac miniで動かす大きなモデルとの使い分けは、最後に見立てとして書きます。

「小さい」とは、どのくらいか

これまでの記事で扱った27B級は、4ビットに圧縮しても約15GBでした。今回の主役は、その10分の1以下です。

モデル 大きさ 文脈 開発元の位置づけ
Gemma 4 E2B 実効2.3B（埋め込みを含めて5.1B） 128Kトークン 画像・音声も読める
Gemma 4 E4B 実効4.5B（埋め込みを含めて8B） 128Kトークン 画像・音声も読める
LFM2.5-1.2B-JP 1.17B 32Kトークン 日本語と英語の2言語。会話、翻訳、道具の呼び出しなど

「実効」は、見かけより小さいモデルとして動く、という意味です。Googleのモデルカード（配布ページの説明書き）に書かれています。LFM2.5-1.2B-JPは、アメリカのLiquid AIが作った1.2B級のモデルで、日本語向けに調整されています。日本語向けの版は2026年6月の更新版があり、数字はそちらのカードによります。

必要なメモリ

Googleの公式ドキュメントに、モデルの重みを読み込むだけの目安があります。

版 16ビット 8ビット 4ビット 携帯向け
E2B 11.4GB 5.7GB 2.9GB 1.1GB
E4B 17.9GB 8.9GB 4.5GB 2.5GB

Googleは、この表に会話の長さの分（作業用のメモリ）は含まれない、と注記しています。会話が長くなるほど増えます。E2Bの文章だけの携帯向け版は0.84GBです。別のGoogleの発表では、E2Bは機種によっては1.5GB未満で動く、とあります。

LFM2.5-1.2B-JPは、LiteRT-LMという形式に変換された版があります。ファイルは、8ビットが1.24GB、4ビットが736MBです。そのページには、iPhone 17 Proで最大メモリが約560MBという数字もありますが、誰がどう測ったかは書かれていません。

別の人の測定もあります。M1 Maxで4ビット版（694MB）を動かした記事では、4,096トークンの文脈で838MB、32,768トークンの全長で1,171MBでした。これは個人の測定です。

つまり、4ビットなら、1B級は1GB未満、2〜4B級は数GBです。いまのスマホのメモリで、動かす余地があります。

何ができるか

Gemma 4は、文章に加えて、画像と音声を読めます。音声は30秒まで、動画は1秒に1コマで60秒までです。140以上の言語で学習した、思考モード、道具を呼び出す機能にも対応しています。Googleは、E2B・E4Bを、スマホ、ブラウザ、小型機器向けに作った、と説明しています。

Googleの測定（自社）では、ラズベリーパイ5のCPUでE2Bが毎秒7.6トークン（生成）、Qualcommの開発機のNPUで毎秒31トークンです。ラズベリーパイは、小さな基板のコンピュータです。実用には遅めですが、動くこと自体は確かです。

LFM2.5-1.2B-JPは、Liquid AIの説明では、日本語の文章生成、翻訳、会話、道具の使い分け、決まった形式での出力、スマホ上の個人アシスタントが想定用途です。自社の測定では、同じ2B未満のモデルと比べ、日本語の指示追従は平均66.9、数学は62.5、コードは49.4、道具の呼び出しは48.0でした。全体の平均は53.1です。比べた相手や条件の細部は、この記事では確認していません。

何が苦手か

ここは、出典に書かれている範囲です。

Gemma 4のカードには、皮肉や微妙な言い回しに弱いこと、事実を誤ったり古かったりすること、常識的な推論が限られることが書かれています。

LFM2.5-1.2B-JPのカードには、知識を問う作業は勧めない、と明記されています。同じカードの自社測定でも、知識の平均は38.7で、ほかの項目より低めです。得意なのは、作業内容と出力の形をはっきり指示した場合です。知識の元になる学習データは、2024年の半ばまでです。

個人の測定では、日本語の短い文書で、JSON（決まった形式）は崩れずに出た一方、モデル自身の名前を取り違え、知識を聞くと意味の通らない答えが返ったそうです。道具の呼び出しも、その環境では動かなかったと書かれています。1人の、1つの環境での結果なので、参考にとどめてください。

要するに、小さなモデルは「物知り」ではありません。形の決まった作業（要約、書き換え、翻訳、抜き出し）は任せられても、事実を聞く相手には向きません。ネットの検索と組み合わせる、答えを自分で確かめる、といった使い方が前提です。

iPhone・Androidで動かす方法

公式に案内されているのは、次の道です。

Google AI Edge Gallery（アプリ）

Googleの公式アプリです。Androidは12以上、iOSは17以上が条件で、Google Play、App Store、GitHubからのAPKで入ります。Gemma 4に対応し、チャット、思考モードの表示、画像の分析、音声の文字起こし、エージェント向けの機能（Agent Skills）があります。推論は端末の中で行われ、インターネットは要りません。ただし、Googleはこれを実験的なベータ版と書いています。

ソフトウェア開発者のSimon Willisonは、iPhoneでE2B（2.54GBのダウンロード）を試して、速く実用的だと書きました。一方、会話が保存されないことと、追加の質問でアプリが固まったことを挙げています。2026年4月の、個人の感想です。

LiteRT-LM（開発者向けのライブラリ）

Googleのオープンソースの実行基盤です。Android、iOS、パソコン、ブラウザ、ラズベリーパイなどに対応します。Kotlin、Python、C++は安定版、Swiftは早期プレビューです。自分のアプリに組み込む人向けです。

Android標準のGemini Nano

Gemma 4とは別の、Android本体に組み込まれたモデルです（後の節で触れます）。

LFM2.5-1.2B-JPは、LiteRT-LM形式の版が公開されています。そのページの案内では、AndroidはAI Edge Galleryに取り込み、CPUで動かします。iOSには、Metal（GPU）向けのファイルと、設定の注意書きがあります。細かい手順はそのページを見てください。

ネットなしで使える利点

AI Edge Galleryは、推論が端末の中で完結し、通信が要らない、と説明しています。利点は3つあります。

ただし、モデルのダウンロードには通信が必要です。電池も使います。見立てですが、長く使うと、本体が熱くなったり電池が減ったりするはずなので、そこは使ってみないと分かりません。この記事では、まだ確かめていません。

Appleや各社の「組み込みのAI」との違い

スマホには、メーカーが最初から載せているオンデバイスのAIもあります。

Apple：2025年9月の発表で、Appleは約3B（30億）パラメータの端末内のモデルを、Foundation Modelsという仕組みで、アプリの開発者が使えると説明しました。処理は端末内で、オフラインで動き、開発者の費用はかからず、Apple Intelligence対応のiOS 26などが条件です。2025年の技術報告では、2ビットの量子化を前提にした学習をしている、とあります。2026年6月の発表では、画像入力、サーバー側のモデルの呼び出し、独自の機能（skills）が加わり、ほかに、Claudeなど他社のモデルをつなぐ仕組みと、端末でモデルを動かすCore AIという別の枠組みが紹介されました。ある解説記事は、2段階のモデル構成で、Googleのジェミニの技術を土台にしたと伝えていますが、これは又聞きで、大きさなどは公表されていません。

Google（Android）：Gemini Nanoが、AICoreというシステムの部品で動きます。開発者は、ML Kit GenAI APIという窓口から、要約、校正、書き換え、画像の説明、音声の文字起こしなどを呼び出せます。オフラインで動き、モデルの配布と更新はAICoreが担当します。対応機種の一覧は、読んだページにはありませんでした。

違いを、ここは僕らの読み方として整理します。

組み込みのAI Gemma 4・LFM2.5など
選べるか メーカーが決めたモデル 自分で選んで入れる
入れ方 OSが管理 アプリやライブラリで自分で取り込む
使い方 決まった機能、決まったAPI 自由なチャットや独自アプリ
中身 重みは非公開 重みが公開（Gemma 4はApache 2.0。LFM2.5は独自のLFM1.0という規約で、条件は要確認）

組み込みのAIは、手軽で、OSの機能と一体です。公開モデルは、手間はかかりますが、モデルを選べて、仕組みを確かめられます。Appleは、足りないときにクラウド（Private Cloud Compute）へ回す道も用意しています。端末の中だけで完結するかは、機能によって違います。

32GBのMac miniとの使い分け

見立てです。

32GBのMac miniは、27B級（4ビットで約15GB）を主力にできる機械です（記事04、06）。小さなモデルは、その代わりにはなりません。知識の深さも、長い推論も、27B級のほうが上のはずです。

小さなモデルの出番は、Mac miniがない場面です。出先のスマホで、メモや文書の要約、短い翻訳をする。圏外で、簡単な質問をする。日本語の短い文を決まった形に直す。こうした軽い用事は、1〜4B級で足りる可能性があります。

もう1つは、Mac mini上での脇役です。E4Bは4ビットで4.5GBなので、27B級を動かしたまま置く余裕があります。短い下書きや、形式の変換を小さなモデルに任せ、本気の推論は27B級に回す、という分担は考えられます。ただ、これも実機で確かめていません。

要は、「頭の良さ」はMac mini、「いつでも持ち歩ける軽さ」はスマホ、という分け方です。

気をつけること

出典

更新履歴