自分のPCで動かすモデルに、コードを書かせる。それ自体は数年前からできたが、できたのは補完——書きかけの行の続きを埋める、という範囲だった。「リポジトリを読んで、複数のファイルを直して、テストを走らせる」というエージェント的な使い方は、ローカルには重すぎた。

そこが2025年末から2026年にかけて動いた。この記事は、いま実際にどこまでできて、どこで詰まるかを、一次情報だけで整理する。結論を先に言うと——動く。ただし「設定を1つ変えないと、黙って壊れる」という関門がある。

📌 この記事の数値について:ベンチマークとモデル仕様はすべて開発元の発表(Mistral AI 公式・Qwen の公式モデルカード・Ollama 公式ドキュメント・Cline 公式ドキュメント・Anthropic 公式)から取っている。まとめ記事の孫引きは使っていない——調べる過程で、まとめ記事が別サイズのモデルのスコアを取り違えている例に複数当たったからだ。

1. 何が変わったか——オープンモデルが「エージェント型」に届いた

変化を一番はっきり示すのは、モデル開発元自身が「エージェント型コーディング」を売りに書くようになったことだ。

Qwen の公式モデルカードには、「Qwen Code や CLINE といったほとんどのプラットフォームをサポートし、専用に設計されたfunction call形式を備える」と、エディタ拡張の名前が名指しで書かれているQwen3-Coder-30B-A3B-Instruct model card)。モデル側が特定のコーディングエージェントを想定して作られている、ということだ。

Mistral AI も同じ方向にいる。2025年12月9日に発表した Devstral 2 は「エージェント型コーディング」を明示した専用モデルで、小さい方の Devstral Small 2(24B)を Apache 2.0 で公開したIntroducing: Devstral 2 and Mistral Vibe CLI)。

補完だけだった頃

書きかけの行の続きを埋める。小さいモデルで足りるし、コンテキストも短くていい。ローカルで無理なく回った

エージェント型になると

ツール呼び出しを正確に出せること長いコンテキストを保てることが要る。ここに届くオープンモデルが出てきた

2. 道具は2種類ある——ContinueとClineは別物

ここを混同したまま始めると、期待と結果がずれる。どちらもVS Codeの拡張で、どちらもOllamaに繋がるが、設計思想がまるで違う。

  Continue Cline
性格 補完・チャット・編集の詰め合わせ 自律的に動くコーディングエージェント
役割の分け方 役割ごとに別モデルを割り当てる——chat / edit / apply / rerank / autocomplete 1つのモデルが計画から実行までやる
要求スペック 低い。補完は数GBのモデルで足りる 高い。長いコンテキストと正確なツール呼び出しが要る
向いている使い方 書きながら手を速くする タスクごと任せる

Continue の「役割ごとに別モデル」という設計は、ローカルと相性がいい。補完には小さくて速いモデル、チャットには大きいモデル、と使い分けられるからだ。公式のOllamaガイドも、補完用に qwen2.5-coder:1.5bstarcoder2:3b という軽量モデルを名指しで挙げているContinue — Ollama guide)。

⚠️ ただし、公式ドキュメントの推奨モデルは古いことがある。上のガイドがチャット用に挙げているのは llama3.1:8bdeepseek-r1:32b で、いま選べるものと比べるとかなり前の世代だ。ドキュメントの手順は使えるが、モデル名はそのまま鵜呑みにせず、後述の「4. モデルを選ぶ」で選び直したほうがいい。

3. 最初の落とし穴——コンテキスト長がVRAMで決まる

ここが本記事で一番重要な章だ。ここを知らないと、「セットアップは成功したのに、エージェントが途中で意味不明な動きをする」という状態にはまる。しかもエラーは出ない。

原因は Ollama の既定のコンテキスト長にある。固定値ではなく、VRAMの量で自動的に決まるOllama — Context length)。

VRAM 既定のコンテキスト長
24 GiB 未満 4k
24〜48 GiB 32k
48 GiB 以上 256k

一般的なゲーミングPC(VRAM 8〜16GB)は、いちばん上の行に落ちる。つまり4k。エージェントはシステムプロンプトとファイル内容とツール呼び出しの往復でここを軽く超えるので、会話の頭から静かに切り落とされていく。指示を忘れる、同じ操作を繰り返す、途中で目的を見失う——原因はモデルの頭の悪さではなく、入り口で文脈が捨てられていることだ。

Ollama 公式は、この用途について「ウェブ検索やコーディングツールのような負荷の高い作業には、コンテキストを少なくとも64000トークンに設定する」と明記している。設定はサーバ起動時の環境変数で行う。

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

アプリ版を使っているなら、設定画面のスライダーでも変えられる。

⚠️ ただし、伸ばせば済む話ではない。公式も「コンテキスト長を大きくすると、モデルの実行に必要なメモリ量が増える」と釘を刺している。

VRAMに収まらなくなると、モデルの一部がCPU側へ追い出されて劇的に遅くなる本当に効いているかは ollama ps で確かめる——公式がそう案内している。GPUに載り切っているかがここで分かる。

Cline 側にも同じ問題への対処がある。公式ドキュメントは「Use Compact Prompt を有効にする」「タスクを絞る(コンテキストが小さいほど応答が速い)」を推奨している(Cline — Running models locally)。エージェントのシステムプロンプト自体が長いので、そこを縮める設定が用意されているということだ。

4. モデルを選ぶ——VRAM別の現実解

まとめ記事の推奨はあてにしないほうがいい。調べた範囲では、2025年半ばのモデルを「2026年のおすすめ」として挙げているものや、480Bモデルのスコアを30Bモデルの欄に書いているものがあった。ここでは開発元の発表だけを並べる。

モデル 規模 コンテキスト ライセンス SWE-bench Verified
Qwen3.6-35B-A3B 35B(活性3B 262,144(最大1,010,000) Apache 2.0 73.4
Devstral Small 2 24B 256K Apache 2.0 68.0%
Devstral 2(参考・大きすぎる) 123B 256K Modified MIT 72.2%

出典:Qwen3.6-35B-A3B モデルカード(Terminal-Bench 2.0 は51.5、QwenClawBench は52.6)/Mistral AI 公式発表(2025年12月9日)。スコアは各社が自社で計測したもので、第三者による横並び計測ではない。

注目すべきは Qwen3.6-35B-A3B の「活性3B」だ。35Bのうち実際に毎回動くのは3B分で、これがMoE(Mixture of Experts)の効きどころになる。大きいモデルの賢さと、小さいモデルの速さを同時に狙う構造で、ローカル向きの設計といえる。

ダウンロードサイズと必要スペック

Ollama のライブラリでは、qwen3.627b(18GB)と 35b(23GB)が並ぶ。Mac向けの -mlx 付きタグもある。

Cline 公式が示しているメモリの目安はこうだ——小さいモデルなら 16〜32GB、中規模のコーディングモデルなら 32〜64GB、大きいモデルとより大きなコンテキストなら 64GB以上。

VRAM 8〜12GB

Continue の補完用途に絞る。エージェント型は諦めるか、クラウドと併用する

VRAM 16〜24GB

Devstral Small 2(24B)が射程。コンテキストを伸ばす余地が要るので量子化は必須

VRAM 24GB以上 / 統合メモリ32GB以上

Qwen3.6 の 27b/35b が現実的。既定コンテキストも32kに上がる

Mistral は Devstral Small 2 について「コンシューマ向けGPU、さらにはCPUのみの構成でも動く」と書いている。ただし「動く」と「エージェントとして実用的な速さで動く」は別だという点は、頭に置いておいたほうがいい。

5. セットアップ——最短の手順

① Ollama を入れて、コンテキストを設定する

順番が大事だ。モデルを入れる前にコンテキスト長を決める。

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

インストール手順そのものはOllama完全ガイドで扱っているので、そちらを参照してほしい。

② モデルを取得する

ollama pull qwen3.6:27b

VRAMが厳しいなら Devstral Small 2 を選ぶ。どちらもエージェント型を想定して作られたモデルという点が、汎用チャットモデルとの違いになる。

③ GPUに載っているか確認する

ollama ps

この確認を飛ばさないこと。CPU側へ追い出されていると、体感がまったく別物になる。「ローカルLLMは遅くて使えない」という感想の多くは、実はここが原因だ。

④ 拡張機能を繋ぐ

Cline も Continue も、プロバイダに Ollama を選んで http://localhost:11434 を指定する。Cline 公式の注意は「プロンプトを送る前に Ollama が起動していることを確認する」という素朴なもので、特別な設定は要らない。

Cline を使うなら、あわせてUse Compact Prompt を有効にする

6. クラウドとの差は、実は測りにくくなっている

ここは正直に書いておきたい。「ローカルモデルはクラウドの何%まで来た」という比較を、いまきれいに出すことはできない。理由はベンチマークが揃わなくなったからだ。

オープンモデル側は SWE-bench Verified を出す。Qwen3.6-35B-A3B が 73.4、Devstral Small 2 が 68.0%。一方、フロンティア側はこの指標から離れつつある。

実際、Anthropic の Claude Opus 5 発表にはSWE-bench Verified の数値が載っていない。挙げられているのは Frontier-Bench v0.1、CursorBench 3.2、AA Coding Agent Index、FrontierCode 1.1 で、しかも絶対値ではなく相対的な言い方が多い(「Opus 4.8 の性能を2倍以上に」「Fable 5 のピークスコアの0.5%以内」など)。

⚠️ だから「ローカルはClaudeの◯%」という数字を見たら疑ったほうがいい。比較元と比較先が同じ指標で測られていないか、数世代前のClaudeと比べている可能性が高い。SWE-bench Verified で並べられるのは、いまやオープンモデル同士くらいだ。

それでも言える差

数字が揃わなくても、構造的に差が出る場所ははっきりしている。

ローカルが有利なところ

コードが外に出ない従量課金がない(回数を気にせず回せる)/オフラインで動く/レート制限がない

クラウドが有利なところ

複数ファイルにまたがる推論/長い自律実行の安定性/初期投資が要らない/モデルが勝手に新しくなる

「複数ファイルにまたがる推論」で差が出やすいのには理由がある。そこはコンテキストを大量に使い、判断を何十回も積み重ねる工程だからだ。1回の判断の精度差が、往復のたびに掛け算で効いてくる。単一ファイルの手直しでは気にならない差が、リポジトリ規模の作業では体感になる。

7. 「ローカルは無料」は本当か

APIの請求が来ないのは事実だが、無料ではない。コストの形が変わっているだけだ。

項目 ローカル クラウド
初期費用 VRAMの多いGPU / 大容量の統合メモリ なし
使うほど増える費用 電気代のみ トークン課金 or 定額
見えにくい費用 設定と維持の手間・モデル更新の追従 なし(提供側が持つ)

だから「どちらが安いか」は、比較する条件で逆転する。すでに24GB級のGPUを持っているなら、ローカルは追加費用ほぼゼロで回る。持っていないなら、そのGPU代でサブスクリプションが何年ぶんも買える。「毎日大量に回すか」「もう機材があるか」の2点で答えが変わる、と考えたほうが正確だ。

8. 使い分けの結論

ローカルを選ぶ理由になるもの

コードを外に出せない(契約・規程)/機材がすでにある/回数を気にせず試行錯誤したい/オフラインで作業する

理由にならないもの

「無料だから」(機材代を数えていない)/「速そうだから」(クラウドのほうが速いことが多い)

いちばん現実的なのは併用だ。Continue の補完をローカルの小さいモデルに任せて常時走らせ、まとまった作業はクラウドのエージェントに渡す。補完は回数が多くて1回が軽いのでローカル向き、エージェントは回数が少なくて1回が重いのでクラウド向き——負荷の形がちょうど逆になっている。

まとめ

  • オープンモデルはエージェント型コーディングに届いた。Qwen も Mistral も、エディタ拡張を名指しした専用モデルを出している
  • 最大の関門は Ollama の既定コンテキスト長。VRAM 24GiB未満なら4kで、エージェントは静かに壊れる。公式推奨はコーディング用途で64000以上
  • 伸ばしたら ollama ps でGPUに載っているか確認する。CPUへ追い出されると別物の遅さになる
  • Continue と Cline は別物。前者は役割ごとにモデルを割り当てる補完型、後者は自律エージェント。要求スペックが違う
  • 「クラウドの何%」という比較は成立しにくくなっている。フロンティア側は SWE-bench Verified を出さなくなりつつある
  • 「無料」ではなく「費用の形が違う」。機材がすでにあるかどうかで答えが逆転する

FAQ

Q1. VRAM 8GB のGPUでもエージェント型は使えますか?

厳しい。モデル本体が載っても、コンテキストを伸ばす余地が残らないからだ。Ollama の既定はVRAM 24GiB未満で4kになり、そこを64000へ伸ばすと必要メモリが増える——8GBではその両立が難しい。Continue の補完用途に絞るか、補完だけローカルにしてエージェントはクラウド、という併用が現実的だ。

Q2. Cline と Continue、どちらから始めるべきですか?

ローカルLLMが初めてなら Continue要求スペックが低く、うまく動かないときの切り分けも簡単だからだ。補完が快適に動くところまで確認してからエージェント型に進むと、問題がモデルなのか設定なのかを分けて考えられる。

Q3. Mac でも動きますか?

動く。統合メモリがそのままVRAM相当として使えるので、むしろ大きなモデルを載せやすい。Ollama のライブラリには qwen3.6-mlx 付きタグ(Apple Silicon向け)も用意されている。ただしコンテキスト長の既定はメモリ量で決まる規則が同じように効くので、確認は必要だ。

Q4. どのモデルが「いちばん賢い」ですか?

公表スコアだけで言えば、この記事で挙げた中では Qwen3.6-35B-A3B の SWE-bench Verified 73.4 が最も高い。ただし各社の自社計測であり、第三者による横並びではない。ライセンス(Devstral Small 2 と Qwen3.6 はどちらも Apache 2.0)や、手元のVRAMに載るかのほうが、実務では効いてくる。

Q5. なぜ「エラーが出ずに壊れる」のですか?

コンテキスト長を超えた分はエラーではなく切り捨てとして処理されるからだ。モデルは「渡された範囲」で正常に応答する。結果として指示を忘れる・同じ操作を繰り返す・目的を見失うという形で現れ、モデルの能力不足に見えてしまう。設定を疑うべき症状だと知っているかどうかで、切り分けの速さがまるで変わる。

Q6. 量子化はどれを選べばいいですか?

迷うなら Q4_K_M 相当から始めるのが無難だ。フォーマットの違い(GGUF / GPTQ / AWQ)と選び方は量子化フォーマット完全ガイドにまとめてある。コーディング用途では「モデルを大きくして強く量子化する」より「少し小さいモデルで量子化を緩める」ほうが安定しやすい——ツール呼び出しの形式を正確に守る必要があるためだ。

Q7. 会社のコードに使っても大丈夫ですか?

ローカルで完結する限り、コードは外に出ない——これがローカルLLM最大の利点だ。ただし拡張機能側の設定を確認すること。プロバイダをOllamaに向けていても、テレメトリや別機能が外部通信する可能性はある。そして「規程で許されるか」は技術とは別の問題なので、社内規程を先に確認してほしい。

関連記事