目次
Ollama(オラマ)とは、オープンなLLM(大規模言語モデル)を自分のPCで動かすための無料のオープンソースツールだ。Windows・macOS・Linux に入り、ollama run モデル名 の1行でモデルの取得から対話までが済む。起動中は localhost:11434 にAPIサーバーが立つので、自作アプリや Claude Code などのツールからも呼び出せる。いまは手元で動かすモデルに加えて、名前が :cloud で終わるクラウドのモデルも同じコマンドで使える。
本記事は Ollama というツールそのものの使い方に絞り、公式のGitHub(ソースコードを含む)・公式ドキュメント・料金ページの原文に沿ってまとめる(2026年11月12日時点)。ローカルLLMそのものの考え方はローカルLLMの始め方、どのモデルを選ぶかはおすすめモデル比較、必要なVRAMの計算は必要スペックの記事、エディタでコードを書かせる設定はOllama+Clineの記事で扱っている。
同じコマンドで、手元でもクラウドでも
— 入口は4つ:アプリ・コマンド・API・連携先の起動
🖱️ アプリでチャット
⌨️ コマンド(CLI)
🔌 ローカルAPI
🚀 連携先の起動
1. Ollamaとは?——ローカルとクラウドの2つの動かし方
Ollama は、オープンなモデル(Gemma・Qwen・gpt-oss など)を自分のPCで手軽に動かすための無料・オープンソースのツールだ。モデルのダウンロード、量子化形式の扱い、GPUの利用設定といった面倒を裏で処理し、ユーザーは「モデル名を指定して走らせる」だけでよい。推論の土台には llama.cpp を使い、Apple シリコンの Mac では Apple の MLX で動く版も用意されている。
💡 ひとことで:Ollamaは「LLM版のDocker」。ollama pull でモデルを取得し、ollama run で対話。さらにローカルにAPIサーバーが立つので、自作アプリやチャット画面、コーディングエージェントからも呼び出せる。
動かし方は2つある。どちらを選ぶかで、必要なPCと費用がまったく変わる。
ローカル
ollama run gemma4
- モデルを自分のPCに落として動かす
- 使い放題で料金はかからない(電気代は別)
- 速さはGPUとVRAMで決まる
- 入力はPCの外に出ない
クラウド
ollama run gemma4:cloud
- Ollamaのサーバーで動かす(ダウンロード不要)
- トークン単位の従量課金か、月額プランのクレジット
- GPUの無いPCでも大きいモデルが速い
- 入力はOllamaのサーバーで処理される
似たツールに LM Studio がある。ざっくり、Ollama=コマンドとAPIが中心で、開発者・自動化・エージェントとの連携向き、LM Studio=画面が中心で、モデル探しから対話までをGUIで済ませたい人向き。どちらも無料だ。ローカルとクラウドの違いそのもの(費用・性能・プライバシー)はローカルLLMとクラウドの比較で詳しく扱っている。
2. Ollamaのインストール方法(Windows / macOS / Linux / Docker)
公式のダウンロードページとGitHubのREADMEには、OSごとにターミナルに貼る1行のコマンドと手動のインストーラの2通りが載っている。どちらを使っても結果は同じだ。
| OS | 1行で入れる(公式の原文) | 要件 |
|---|---|---|
| Windows | PowerShell で irm https://ollama.com/install.ps1 | iex |
Windows 10 22H2 以降(Home / Pro)、管理者権限は不要、本体だけで4GB以上の空き |
| macOS | curl -fsSL https://ollama.com/install.sh | sh |
macOS 14 Sonoma 以降、Apple M シリーズは CPU と GPU、Intel Mac は CPU のみ |
| Linux | curl -fsSL https://ollama.com/install.sh | sh |
更新も同じ1行を再実行、AMD GPU は追加のパッケージ |
Windows
コマンドを使いたくなければ、ダウンロードページから OllamaSetup.exe を入手して実行する。公式のWindowsのページによると、既定ではホームフォルダに入り、モデルは別に数十〜数百GBになりうる。Cドライブに余裕が無ければ、本体の入れ先は OllamaSetup.exe /DIR="d:\some\location" で、モデルの置き場は環境変数 OLLAMA_MODELS で変えられる(第9章)。インストール後はバックグラウンドで常駐し、cmd・PowerShell のどちらでも ollama コマンドが使える。
macOS
手動なら Ollama.dmg を開き、アプリを「アプリケーション」フォルダへドラッグする。初回起動時に ollama コマンドが PATH に無ければ、/usr/local/bin にリンクを作る許可を求められる(公式のmacOSのページ)。
Linux
スクリプトを使わない手動インストールの手順や、AMD GPU 向けの追加パッケージは公式のLinuxのページにある。Linux には Windows・macOS のようなアプリは無く、コマンドとAPIで使う。
Docker
公式イメージ ollama/ollama が Docker Hub にある。CPU だけで動かす最小の起動例は次のとおり。NVIDIA GPU を使うなら NVIDIA Container Toolkit を入れて --gpus=all を足し、AMD GPU なら ollama/ollama:rocm のイメージを使う(公式のDockerのページ)。なお macOS の Docker Desktop では GPU を使えない(公式FAQ)。Mac ではアプリを直接入れたほうが速い。
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama run gemma4:e2b
🔌 動作確認と更新:インストール後、新しいターミナルで ollama -v を打ち、バージョンが表示されればOK。引数なしの ollama を打つと、モデルを走らせるか、Claude Code などの連携先に繋ぐかを選ぶメニューが出る。アップデートは、Windows と macOS なら自動でダウンロードされ、タスクバー/メニューバーのアイコンから「Restart to update」を押すと適用される。Linux はインストールの1行を再実行する(公式FAQ)。
3. 自分のGPUで速く動くか(対応GPUの早見)
Ollama は GPU が使えないと CPU で動くので、エラーにはならないが何倍も遅くなる。入れる前に、自分のGPUが公式のHardware supportに載っているかを見ておこう。要点を表にした。
| GPU・環境 | GPUで動く条件 | 載っていないとき |
|---|---|---|
| ✓ NVIDIA | Compute Capability 5.0 以上(GTX 750 以降)、ドライバ 550 以上(5.0〜6.2 の世代は 570 以上)、Windows はドライバ 551.61 以上 | それより古いカードは公式のビルドの対象外(古い GPU 向けに自分でビルドする手順は公式の開発者向け文書にある) |
| ✓ AMD Radeon(Linux) | ROCm v7 のドライバ、RX 9070・9060 系、RX 7000 系、RX 6800〜6950 XT、Ryzen AI Max など | Vulkan で動かすか、HSA_OVERRIDE_GFX_VERSION で近い世代として動かす |
| △ AMD Radeon(Windows) | ROCm v7 / HIP7 の対応は RX 7600〜7900 XTX と Radeon PRO W7000 系 | RX 6000 系などは Vulkan(既定で有効)で動く場合がある |
| △ Intel などその他の GPU | Vulkan で動く(Windows は多くのドライバに同梱、Linux は追加の部品が要ることが多い) | 不安定なら OLLAMA_VULKAN=0 で Vulkan を切る |
| ✓ Mac(Apple M シリーズ) | Metal で GPU を使う、統合メモリがそのまま VRAM の代わりになる | — |
| ✕ Mac(Intel)・macOS の Docker | CPU のみ | 小さいモデルにするか、クラウドモデルを使う |
実際にGPUに載ったかは、モデルを動かしている間に ollama ps を打つと分かる。PROCESSOR の列が 100% GPU なら全部がGPU、48%/52% CPU/GPU のように割れていればVRAMからはみ出している(公式FAQ)。割れているときに何を下げるかは、第9章の表で扱う。GPUごとの必要VRAMの目安は必要スペックの記事にまとめている。
4. Ollamaのコマンド一覧
公式のCLIリファレンスと、ソースコード(cmd/cmd.go)に定義されたコマンドを表にした。日常的に使うのは上の6つ程度だ。
| コマンド | 何をするか | 例 |
|---|---|---|
ollama |
メニューを開き、モデルを走らせるか連携先に繋ぐかを選ぶ | ollama |
ollama run MODEL [PROMPT] |
モデルを起動して対話する(未取得なら自動でダウンロード、PROMPT を付けると1回だけ答えて終わる) | ollama run gemma4 |
ollama pull MODEL |
モデルのダウンロードだけを行う | ollama pull gemma4:e2b |
ollama list |
取得済みのモデルとサイズの一覧(別名 ls) | ollama ls |
ollama ps |
いまメモリに載っているモデルの一覧(PROCESSOR 列で GPU か CPU か、CONTEXT 列で使っているコンテキスト長が分かる) | ollama ps |
ollama launch [連携先] |
Claude Code・Codex・OpenCode などを、Ollama のモデルに繋いだ状態で起動する(--model でモデルを指定、--config で設定だけ) |
ollama launch claude |
ollama stop MODEL |
起動中のモデルをメモリから降ろす | ollama stop gemma4 |
ollama rm MODEL |
モデルを削除してディスクを空ける(複数指定可) | ollama rm gemma4:e2b |
ollama show MODEL |
モデルの情報を表示(--modelfile・--parameters・--license で設定やライセンスも見られる) | ollama show --modelfile gemma4 |
ollama create MODEL |
Modelfile から自分用のモデルを作る | ollama create my-assistant -f Modelfile |
ollama cp SOURCE DESTINATION |
モデルを別名で複製する | ollama cp gemma4 my-gemma |
ollama push MODEL |
自作のモデルをレジストリ(ollama.com)へ送る | ollama push ユーザー名/my-assistant |
ollama serve |
APIサーバーを起動する(別名 start、Windows・macOS はアプリが常駐して代わりに動かす) | ollama serve |
ollama signin / signout |
ollama.com へのサインインとサインアウト(クラウドのモデルを使うとき) | ollama signin |
ollama run には便利なオプションがある。--verbose を付けると、答えの後に処理時間と1秒あたりのトークン数(eval rate)が出るので、モデルやタグを替えたときの速さを数字で比べられる。--think=false は考える過程を出すモデルでその過程を止め、--format json は答えをJSONで返させ、--keepalive 30m はメモリに残す時間を変える。画像を読めるモデルなら、ollama run gemma4 "この画像に何が写っている? ./photo.png" のようにファイルのパスを文に含めればよい。
対話中(>>> の後)には、/ で始まる専用のコマンドが使える。終了は /bye、一覧は /?、会話の文脈を消すのは /clear、その場でコンテキスト長を変えるのは /set parameter num_ctx 8192 だ。複数行を入力したいときは、""" で囲む。
5. モデルの入れ方とタグの読み方
モデルは名前+タグで指定する。タグを省くと latest が選ばれるが、latest がどの大きさを指すかはモデルごとに違う。容量を見ずに入れると、思ったより大きい版が落ちてくる。公式のgemma4のタグ一覧を例に、タグの読み方を表にした(2026年11月12日時点の表示)。
| タグ | 意味 | gemma4 での大きさ |
|---|---|---|
gemma4(= :latest) |
タグを省いたときの版、gemma4 では e4b と同じもの | 6.6〜9.5GB |
:e2b :e4b :12b :26b :31b |
パラメータ数の違う版(基本的には数字が大きいほど賢く、重い) | 4.6〜7.5GB / 6.6〜9.5GB / 7.7〜8.0GB / 16〜19GB / 19〜20GB |
-q4_K_M -q8_0 -bf16 |
量子化の段階(数字が小さいほど軽く、精度は少し落ちる) | e4b で 6.6GB / 9.0GB / 16GB |
-qat |
量子化を前提に学習させた版(同じ4ビットでも劣化を抑えたもの) | e4b で 6.1GB |
-mlx -nvfp4 -mxfp8 |
特定の実行環境向けの形式(mlx は Apple シリコンの MLX 向け、nvfp4・mxfp8 は新しい GPU 向けの低ビットの形式) | e4b で 9.5GB / 9.5GB / 12GB |
:cloud -cloud |
Ollama のサーバーで動く版(ダウンロードしない) | 手元の容量は使わない |
大きさに幅があるのは、1つのタグに複数の形式が入っていて、環境に合うものが選ばれるためだ。gemma4 の latest では、下限の6.6GBが e4b-it-q4_K_M、上限の9.5GBが e4b-mlx と同じ大きさになっている。迷ったら接尾辞の無いタグ(gemma4:e4b など)を選べば、Ollama が環境に合う形式を選ぶ。量子化の形式そのもの(GGUF の Q4_K_M の読み方など)は量子化フォーマットの記事で扱っている。
VRAM の欄は、モデルの大きさに会話の分(コンテキスト)の余裕を足した目安だ。公式のクイックスタートも、既定で入る形式で約7.2GB の gemma4:e2b に「8GB の VRAM(Mac は統合メモリ)」を勧めている。入れた後は ollama show gemma4 でパラメータ数・量子化・コンテキスト長を確かめられる。
💡 どのモデルを選ぶ?:上の例は「タグの読み方」の説明用だ。用途(総合/コーディング/日本語)ごとにどの系統が強いかは ローカルLLMおすすめモデル徹底比較 に、エディタでコードを書かせるときのモデル選びは Ollama+Clineの記事 にまとめている。
6. 画面で使う(Ollamaのアプリ・Open WebUI ほか)
「ターミナルは苦手」という人は、まず Ollama 自身のアプリを開けばよい。Windows と macOS 版には、モデルを選んでチャットする画面が入っている(公式ブログ「Ollama's new app」)。Linux にはアプリが無いので、下の他の画面を使う。
Ollama のアプリ(Windows・macOS)
モデルの選択・ダウンロード・チャットが入っている。テキストや PDF のファイルをドラッグして読ませたり、画像を読めるモデルに画像を渡したりできる。設定のスライダーでコンテキスト長を変えられる。macOS では「Apps」から Claude や ChatGPT のデスクトップアプリに Ollama のモデルを繋げる。
ブラウザで使う ChatGPT 風の画面を、ローカルの Ollama に繋ぐ定番。会話履歴・モデルの切り替え・複数ユーザーに対応するので、家庭やチームで1台の Ollama を共有するときに向く。
最初からGUIだけで済ませたいなら LM Studio
Ollama とは別のアプリで、モデルの検索・ダウンロード・チャットまでを1つの画面で済ませる。プログラムを書かない人の入門に向き、Apple シリコンでは MLX 形式のモデルも扱える。
7. クラウドモデルと料金
手元の GPU では大きいモデルが動かないとき、Ollama のサーバーで動くクラウドモデルを同じ操作で使える。ollama signin で ollama.com にサインインし、ollama run gemma4:cloud のように :cloud の付いた名前を指定するだけだ。ダウンロードは要らない(公式のCloudのページ)。プランは次のとおり(料金ページ、2026年11月12日時点)。
| プラン | 月額 | 含まれる利用分 | 同時に送れる数 |
|---|---|---|---|
| Pay as you go | $0 | なし(使った分だけトークン単位で払う) | 3 |
| Pro | $20(年払いは $200) | 毎月 $60 分のクレジット | 3 |
| Max | $100 | 毎月 $300 分のクレジット | 10 |
| Team(早期提供) | $500 | 毎月 $1,000 分をチームで共有 | 10 |
使った量は、モデルごとの100万トークンあたりの単価で数える。例えば gemma4 のクラウド版は入力 $0.14・出力 $0.40だ。入力100万トークン・出力20万トークンを使うと、0.14+0.40×0.2=約0.22ドルになる。Pro の毎月 $60 分は、この割合なら約270回分(60÷0.22)にあたる。含まれる利用分は翌月に繰り越されない。手元で動かすモデルは、どのプランでも無制限で料金はかからない。
🔒 データの扱い:公式FAQによると、ローカルで動かす限り Ollama はプロンプトもデータも見ない。クラウドモデルでは、入力と答えを処理はするが保存もログへの記録もせず、学習にも使わないと説明している。料金ページによると、クラウドのモデルは主に米国でホストされ、需要が多いときは欧州に回すことがある。クラウドを一切使わせたくないときは、環境変数 OLLAMA_NO_CLOUD=1 か、~/.ollama/server.json に "disable_ollama_cloud": true を書いて再起動する。ログに Ollama cloud disabled: true と出れば効いている。
8. API活用(OpenAI互換・Anthropic互換)
Ollamaの真価はローカルAPIにある。サーバーは既定で 127.0.0.1:11434 に待ち受けており、ここへリクエストを送れば、自作アプリ・スクリプト・ツールからローカルLLMを使える。入口は3つの形式がある。
Ollama のAPI
POST localhost:11434
/api/chat
/api/generate
Ollama 独自の形式。keep_alive や options.num_ctx など Ollama 固有の指定ができる。
OpenAI互換
POST localhost:11434
/v1/chat/completions
/v1/responses
OpenAI 向けのコードの接続先を変えるだけで流用できる。
Anthropic互換
POST localhost:11434
/v1/messages
Claude Code など、Anthropic の API を前提にした道具を繋げる。
/api/chat(会話の履歴を渡す)
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Why is the sky blue?"
}],
"stream": false
}'
答えは message.content に入る。"stream": false を外すと、答えが少しずつ JSON の行で返ってくる(既定はストリーミング)。1回だけ答えさせるなら /api/generate に "prompt" を渡す形もある。上の書き方は macOS・Linux のシェル向けで、Windows の PowerShell では引用符の扱いが違うので、公式のWindowsのページにある次の形を使う(モデル名だけ替えた)。
(Invoke-WebRequest -method POST -Body '{"model":"gemma4", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
OpenAI互換(/v1)
OpenAI の公式ライブラリで、base_url を Ollama に向けるだけで動く。公式の説明によると、ローカルのサーバーではAPIキーは「必須だが無視される」ので、適当な文字列でよい。
from openai import OpenAI
client = OpenAI(
base_url='http://localhost:11434/v1/',
api_key='ollama', # required but ignored
)
chat_completion = client.chat.completions.create(
messages=[{'role': 'user', 'content': 'Say this is a test'}],
model='gemma4',
)
print(chat_completion.choices[0].message.content)
Anthropic互換(Claude Code を繋ぐ)
公式のAnthropic互換の説明では、Anthropic の API を前提にした道具に次の2つの環境変数を設定する。環境変数を自分で設定しなくても、ollama launch claude で繋いだ状態で起動できる。
export ANTHROPIC_AUTH_TOKEN=ollama # required but ignored
export ANTHROPIC_BASE_URL=http://localhost:11434
どちらの互換も、元の API の一部だけに対応している。例えば Responses の形式は状態を持たないので、会話の履歴を毎回送る必要がある。コーディングエージェントでローカルのモデルを使うときは、次の章のコンテキスト長が鍵になる。
🔌 クラウドの代わりやフォールバックに:多くのライブラリ・ツールは OpenAI か Anthropic の API に対応している。接続先を Ollama に替えれば、クラウドの代わりにローカルのモデルを使う構成にでき、クラウド停止時のフォールバックにもなる。Python と JavaScript には公式のライブラリ(pip install ollama/npm i ollama)もある。
9. カスタマイズ(Modelfile・環境変数・メモリの調整)
Modelfile:自分用のモデルを作る
Modelfile は、Dockerfile のような設定ファイルだ。ベースのモデル(FROM、必須)に、パラメータ(PARAMETER)やシステムプロンプト(SYSTEM)を足して、いつも同じ振る舞いをする「自分用のモデル」を作れる。最小の例はこうなる。
FROM gemma4
PARAMETER temperature 0.7
PARAMETER num_ctx 16384
SYSTEM """あなたは丁寧な日本語で、要点から簡潔に答えるアシスタントです。"""
これを Modelfile という名前で保存し、同じフォルダで次を実行する。num_ctx を Modelfile に書いておけば、サーバー全体の既定を変えずに、このモデルだけコンテキスト長を伸ばせる。
ollama create my-assistant -f Modelfile
ollama run my-assistant
既存のモデルがどんな Modelfile でできているかは ollama show --modelfile gemma4 で見られる。これを写して書き換えるのが近道だ。
主な環境変数
サーバーの振る舞いは環境変数で変える。全部の一覧は ollama serve --help で表示される。よく使うものを、ソースコード(envconfig/config.go)と公式FAQに書かれた既定値とともに挙げる。
| 環境変数 | 何を変えるか | 既定値 |
|---|---|---|
OLLAMA_HOST |
待ち受けるアドレスとポート(0.0.0.0:11434 にすると LAN 内の他の端末から使える) | 127.0.0.1:11434 |
OLLAMA_MODELS |
モデルの保存先(容量の大きい別ドライブに移すときに使う) | macOS ~/.ollama/models、Windows C:\Users\%username%\.ollama\models、Linux /usr/share/ollama/.ollama/models |
OLLAMA_CONTEXT_LENGTH |
既定のコンテキスト長 | VRAM で決まる(24GiB 未満 4k/24〜48GiB 32k/48GiB 以上 256k) |
OLLAMA_KEEP_ALIVE |
最後に使ってからモデルをメモリに残しておく時間(-1 で残し続ける、0 ですぐ降ろす) | 5m(5分) |
OLLAMA_NUM_PARALLEL |
1つのモデルが同時に処理するリクエストの数 | 1 |
OLLAMA_MAX_LOADED_MODELS |
同時にメモリに載せるモデルの数 | GPU の数×3(CPU だけなら3) |
OLLAMA_MAX_QUEUE |
混んでいるときに待たせるリクエストの上限(超えると 503 を返す) | 512 |
OLLAMA_FLASH_ATTENTION |
Flash Attention を強制的に入れる(1)か切る(0) | 対応する環境では自動で使う |
OLLAMA_KV_CACHE_TYPE |
会話の分を覚えておくメモリ(K/V キャッシュ)の精度(q8_0 で約半分、q4_0 で約4分の1) | f16 |
OLLAMA_ORIGINS |
ブラウザからのアクセスを許すオリジン(カンマ区切り、拡張機能は chrome-extension://* など) | 127.0.0.1 と 0.0.0.0 |
OLLAMA_NO_CLOUD |
1 にするとクラウドの機能(リモート推論・ウェブ検索)を切り、ローカル専用にする | 無効 |
設定のしかたはOSで違う(公式FAQ)。Windows は、タスクバーの Ollama を終了してから「環境変数」の設定画面でユーザー環境変数を足し、スタートメニューから Ollama を起動し直す。macOS は launchctl setenv OLLAMA_HOST "0.0.0.0:11434" のように設定してアプリを再起動する。Linux(systemd で動かしている場合)は次の手順だ。
systemctl edit ollama.service
# [Service] の下に 1 行ずつ足す
# Environment="OLLAMA_HOST=0.0.0.0:11434"
systemctl daemon-reload
systemctl restart ollama
メモリが足りないとき・長い文脈が要るときの調整
コンテキスト長は、VRAM が 24GiB 未満なら既定で 4k(約4,000トークン)しかない。公式のContext lengthのページは、ウェブ検索・エージェント・コーディングの道具には少なくとも64,000トークンを勧めている。足りないとエラーを出さずに前の内容を忘れるので、症状から逆に引けるよう、やりたいことごとの設定を表にした。
| やりたいこと | 設定 | 代わりに増えるもの |
|---|---|---|
| コーディングエージェントで長い文脈を使う | OLLAMA_CONTEXT_LENGTH=64000 ollama serve、またはアプリの設定のスライダー |
VRAM の使用量、はみ出すと CPU に回って遅くなる |
| 文脈を伸ばしてもVRAMに収める | OLLAMA_KV_CACHE_TYPE=q8_0(K/V キャッシュが f16 の約半分) |
わずかな精度の低下、q4_0 にすると長い文脈で目立ちやすい |
| 複数の人や道具から同時に使う | OLLAMA_NUM_PARALLEL=4 |
必要なメモリが並列数×コンテキスト長に増える(2k を4並列で 8k 分) |
| 毎回の読み込み待ちを無くす | OLLAMA_KEEP_ALIVE=-1 |
使っていない間もVRAMを占める(降ろすときは ollama stop) |
| PROCESSOR が CPU/GPU に割れて遅い | 一段小さいタグ(例 :12b→:e4b)か、コンテキスト長を下げる |
答えの質か、覚えておける長さ |
変えた後は ollama ps で、CONTEXT 列が狙った長さになり、PROCESSOR 列が 100% GPU のままかを確かめる。コンテキスト長とメモリの関係の計算は必要スペックの記事、エージェントが文脈切れで壊れるときの症状はOllama+Clineの記事で詳しく扱っている。
10. つまずきの対処
よくある詰まりどころと、公式のFAQ・Troubleshootingにある対処をまとめた。
遅い・固まる
ollama ps の PROCESSOR 列が 100% GPU でなければ、モデルがVRAMに乗り切っていない。一段小さいタグかコンテキスト長を下げ、--verbose で速さを比べる。
スリープ明けにGPUを使わなくなった(Linux)
NVIDIA のドライバの不具合で CPU に戻ることがある。公式のHardware supportにある回避策は sudo rmmod nvidia_uvm && sudo modprobe nvidia_uvm で読み込み直すこと。
APIに繋がらない・503が返る
サーバー(アプリか ollama serve)が動いているか、ポート 11434 を他が使っていないか確認。別のPCから繋ぐなら OLLAMA_HOST を 0.0.0.0 に。503 は待ち行列があふれた印なので OLLAMA_MAX_QUEUE を見直す。
会社のネットワークでダウンロードできない
プロキシは HTTPS_PROXY で指定する。公式は HTTP_PROXY を設定しないよう注意している(モデルの取得は HTTPS だけで、クライアントの接続を妨げることがある)。
ログを見たい
Windows は %LOCALAPPDATA%\Ollama の server.log、macOS は ~/.ollama/logs/server.log、Linux は journalctl -u ollama、Docker は docker logs で見られる。
ログイン時に勝手に起動させたくない
Windows はタスクマネージャーの「スタートアップ アプリ」で ollama を無効に、macOS は設定の「ログイン項目」で Ollama を切る。更新しても設定は保たれる。
まとめ
Ollamaは、オープンなモデルを手元でもクラウドでも同じ操作で動かせるツールだ。要点は4つ。
- 入れる前にGPUを確かめる:NVIDIA は Compute Capability 5.0 以上、AMD は ROCm v7 の対応表か Vulkan、Mac は Apple M シリーズ。動かしたら
ollama psで100% GPUかを見る。 - タグを読んで選ぶ:
latestの中身はモデルごとに違う。大きさの数字(e2b・12b・31b)と、迷ったら接尾辞の無いタグを。 - 文脈の長さを自分で決める:VRAM 24GiB 未満の既定は 4k。エージェントには 64k 以上を勧められており、メモリは K/V キャッシュの量子化で稼ぐ。
- API と launch で道具に繋ぐ:OpenAI 互換・Anthropic 互換のAPIと
ollama launchで、自作アプリや Claude Code から使える。重いモデルは:cloudで。
まずはアプリを開くか、ollama run gemma4:e2b を打ってみよう。動かしながら、クラウドとの違いやモデルの選び方を確かめていくのが、いちばん身につく進め方だ。エディタに繋いでコードを書かせるところまで進むなら、ローカルLLMでコーディングするで Cline / Continue の設定を扱っている。
FAQ
Q. Ollamaは無料?商用利用できる?
A. Ollama自体は無料・オープンソースで、手元で動かすモデルはいくら使っても料金はかかりません。ただし動かすモデル側にそれぞれライセンスがあり、商用可否はモデルごとに異なります(ollama show --license モデル名 で確認できます。詳細はモデル比較記事のライセンス章)。クラウドモデルは第7章の料金がかかります。
Q. OllamaとLM Studio、どっちがいい?
A. コマンドやAPI・自動化・コーディングエージェントとの連携なら Ollama、モデル探しから対話までを画面だけで済ませたいなら LM Studio が向きます。Ollama にもチャットのアプリはあるので、まず Ollama を入れて足りなければ LM Studio を試す順でも構いません。
Q. データは外部に送られない?
A. 手元のモデルで推論する限り、処理は自分のPC内で完結します。公式FAQも「ローカルで動かす場合、プロンプトやデータは見ない」と明記しています。:cloud の付いたモデルを選ぶと入力は Ollama のサーバーで処理されます(公式は保存も学習もしないと説明)。ローカルに限定したいときは OLLAMA_NO_CLOUD=1 を設定します。
Q. アップデートやアンインストールは?
A. Windows と macOS は更新が自動でダウンロードされ、アイコンの「Restart to update」で適用されます。Linux はインストールの1行を再実行します。アンインストールは、Windows なら設定の「アプリ」から、macOS なら公式のmacOSのページにある削除対象を消します。モデルは .ollama フォルダに残るので、要らなければそれも消してください(OLLAMA_MODELS で場所を変えた場合は、そのフォルダも)。
Q. Claude Code や Codex を Ollama のモデルで動かせる?
A. はい。ollama launch claude(Codex は ollama launch codex)で、Ollama のモデルに繋いだ状態で起動できます。手元のモデルで使うなら、コンテキスト長を64,000トークン以上にしておくことが公式で勧められています。
Q. どのくらいのPCが必要?
A. 公式のクイックスタートは、いちばん小さい gemma4:e2b(既定で入る形式で約7.2GB)に8GBのVRAMか、Mac なら同じくらいの統合メモリを勧めています。VRAMが少なくてもメモリ(RAM)を使って動きますが、遅くなります。大きいモデルの目安は必要スペックの記事へ。GPUが弱いPCでは、クラウドモデルを使うのも手です。