3行でいうと

  • iPhoneはFoundation Models（Apple内蔵モデル）、AndroidはGemini Nano（AICore経由）が公式の入口です。
  • Appleの内蔵モデルは、1回の会話で扱える長さが4,096トークンです。長い文章には向きません。
  • Googleの公開アプリ「AI Edge Gallery」は、AndroidとiOSで、オープンなモデルを端末内で動かせます。ベータ版です。
  • Gemma 4のスマホ向け版は、公式表で約1.1GB（E2B）と約2.5GB（E4B）のメモリが目安です。

この記事は、実際に使って確かめた記録ではありません。この記事は公式の文書や論文を読んでまとめたものです。機種ごとの速さや電池の減り方は、読んだ資料に数字がなかったので、書きません。

先に結論

見立てです。「スマホでローカルのAIを試したい」だけなら、次の順で足りると考えています。

  1. まず、端末に入っているAIの機能（Apple Intelligence、Gemini Nanoを使うアプリ）を使う。
  2. 好きなモデルを動かしたいなら、公式の公開アプリ（AI Edge Gallery）から始める。
  3. 自分でアプリを作る人は、Appleなら Foundation Models か Core AI、GoogleならML Kit GenAI か LiteRT-LM を見る。

パソコンのように、何でも入れて自由に動かす世界とは違います。端末の中のAIは、限られた大きさと、機種の条件の中で動きます。

前提：用語

道1：Appleの公式（iPhone、iPad、Mac）

Foundation Modelsフレームワーク

Appleの開発者文書によると、Foundation Modelsフレームワークは、Apple Intelligenceを支える、端末内のモデルを、アプリから使うためのものです。使えるのは、Apple Intelligenceに対応した機種です。Appleの公式ページ（10月22日に読み直し）では、対応機種は、iPhone 15 Pro以降のiPhone（iPhone 16シリーズ、iPhone 17シリーズ、iPhone Airなど）、M1以降のiPadとMac、iPad mini（A17 Pro）、MacBook Neo（A18 Pro）などです。日本語も、対応言語に入っています。

文書は、端末内のモデルの得意なことと、苦手なことを分けています。

得意（文書の例） 避けたほうがよい（文書の例）
要約、固有名詞の抜き出し、文章の手直し、分類、タグ付け、ゲームの会話 簡単な計算、コードの生成、論理的な推論

また、端末内のモデルの会話の長さは、4,096トークンと書かれています。日本語などでは、1トークンがおよそ1文字だとも書かれています。僕らの計算です。4,096トークンは、日本語で数千字までで、指示や答えの分も含みます。長い資料を丸ごと渡すのは、この仕組みでは難しいと考えます。上限を超えると、エラーになります。

より深い推論や長い文脈が必要なとき、文書はPrivate Cloud Computeや外部のサーバーのモデルに切り替える道を案内しています。この場合、端末の外で処理されます。

自分のモデルを動かす道

Appleには、他にも公式の道があります。

これらは、アプリを作る人向けです。

道2：Googleの公式（Android）

Gemini NanoとML Kit GenAI

Androidの開発者文書によると、Gemini Nanoは、Googleの端末内のモデルで、AICore（Androidのシステムの機能）の中で動きます。文書は、AICoreが入力や出力の記録を保存せず、インターネットに直接つながらないと書いています。モデルのダウンロードなどは、別の仕組み（Private Compute Services）を経由します。

アプリからは、ML Kit GenAI APIで使います。ML Kitの文書に出ている機能は次のとおりです。

機能 状態（文書の表記）
要約 Beta
校正 Beta
書き換え Beta
画像の説明 Beta
音声認識 Alpha
Prompt API（自由な指示） Beta

対応機種は、Google、Samsung、Xiaomi、OPPO、vivo、OnePlusなどの、一覧にある機種に限られます。Prompt APIは、Gemini Nanoの3つの段階（nano-v2、nano-v3、nano-v4）ごとに、機種の一覧が違い、新しい段階ほど対応機種が少ない、とあります。

文書に書かれた制約です。

自分のモデルを動かす道：LiteRT-LM

LiteRT-LMは、Googleの、端末でLLMを動かす部品です。公式の概要によると、CPUはAndroid、iOS、macOS、Windows、Linuxなどで、GPUはAndroid、iOSなどで動きます。NPU（AI専用の回路）はAndroidが対応しています。Windowsの欄には印（ロケットのマーク）が付いていますが、ページに凡例がなく、プレビューかどうかは確認できていません。対応モデルには、Gemma 4のE2BとE4B、Gemma 3n、Gemma 3 1Bなどが挙がっています。言語ごとの状態は、Kotlin、Python、C++が安定版で、Swiftは早期プレビューです。

道3：公開アプリ「Google AI Edge Gallery」

GoogleのGitHubのREADMEによると、AI Edge Galleryは、オープンなモデルを端末内で動かす実験用のアプリです。Google PlayとApp Storeにあり、動作の条件は、Android 12以降、iOS 17以降です。READMEは、これを「実験的なベータ版」と呼んでいます。

READMEに書かれている機能には、チャット（考えるモードつき）、画像への質問、音声の文字起こしと翻訳、プロンプトを試す画面、モデルの管理と性能測定、Wikipedia検索などの「エージェント用のスキル」があります。macOS向けのダウンロードも案内されています（最低OSの記載は見つけられませんでした）。モデルは、Hugging Faceと連携して探してダウンロードし、自分のモデルを読み込むこともできます。READMEには「推論はすべて端末の中で行われ、インターネットは要らない」とあります。ただし、モデルのダウンロードには通信が要ります（Hugging Faceと連携、とあるため。ダウンロード時に何が送られるかは、読んだ範囲では確認できていません）。

スマホ向けモデルの大きさ（Gemma 4の公式表）

Googleの公式ページ（Gemma 4の推論メモリ）の表です。読み込みに必要なメモリの目安で、20%の余裕を含みます。スマホ向けは、LiteRT-LMを使います。ページには「推論の道具や環境で変わる」と注意があります。

モデル BF16 8ビット 4ビット スマホ向け スマホ向け（テキストのみ）
Gemma 4 E2B 11.4GB 5.7GB 2.9GB 1.1GB 0.84GB
Gemma 4 E4B 17.9GB 8.9GB 4.5GB 2.5GB 2.2GB

「E」は「実効パラメータ」の意味です。モデルカードによると、E2Bの実効パラメータは23億、埋め込みを含めた全体は51億。E4Bは、実効が45億、全体が80億です。文脈の長さは、どちらも128Kトークンです。公式ページは、スマホ向けの重みは、モバイル向けに最適化された版（qat-mobile）を使う、とも説明しています。

ここで書かれているのは、モデルを読み込むメモリの目安です。会話が長くなったときの記憶の分や、アプリ自体の分は、別に要ります。この表では、スマホの総メモリ（RAM）にどれだけ余裕があれば動くのかは、分かりません。

Appleの内蔵モデルについては、2025年の技術報告が、約30億パラメータで、2ビットの量子化を意識した学習をしたと述べています。

3つの道の比べ方

Apple内蔵（Foundation Models） Google内蔵（Gemini Nano） AI Edge Gallery
誰が使う アプリを作る人 アプリを作る人 誰でも（ベータ版アプリ）
モデル Appleの内蔵モデル Gemini Nano 選べる（Gemma 4など）
機種の条件 Apple Intelligence対応機種 対応機種の一覧 Android 12以降、iOS 17以降
会話の長さ 4,096トークン モデル全体の値は確認できませんでした（要約APIの入力は4,000トークン未満と書かれています） モデルによる
注意 苦手な作業が文書に明記 前面のみ、利用量の上限 実験的なベータ版

見立てです。パソコン向けの記事のように、「自分で好きなモデルを選んで、長い資料を読ませる」用途は、いまのスマホでは、公式の条件の範囲では、控えめに考えるほうが無難です。短い文章の手直し、要約、音声の文字起こし、写真の質問のような、短い作業が向いていると読みました。

つまずきやすい点

気をつけること

出典

更新履歴