AIエージェントとは？自動化・RAG・ワークフローを解説

OpenAIで実装し、次にClaudeやGeminiも試したくなった途端、プロバイダごとに違うSDK・形式・エラー処理の書き分けに時間が溶ける——そんな開発者向け。LLMゲートウェイ（AI Gateway／LLMプロキシ）は、アプリと各プロバイダの間に1枚かませる中継役で、1本のOpenAI互換APIで全モデルを叩けるようにし、フォールバック・コスト集計・仮想キー・キャッシュ・レート制限・観測といった横断的な面倒ごとを肩代わりする。本記事では、なぜ要るのか、ゲートウェイの正体、3つのタイプ（①セルフホスト型プロキシ=LiteLLM／②ホスト型=OpenRouter／③SDK型=Vercel AI SDK）の違い、LiteLLM・OpenRouter・Vercel AI SDKを軸にした選び方、接続先を差し替えるだけの最小構成コード、そして1ホップ分の遅延・ゲートウェイ自身の障害点・手数料（OpenRouterは購入額の5.5%）・機能の目減り・プライバシーという限界まで、実装目線で整理する。

AIエージェントを作ったあと必ずぶつかるのが「で、これはちゃんと動いているのか？」。プロンプトやモデルを変えた結果を感覚でなくデータで判断する仕組みがEvals（評価）だ。LLMは同じ入力でも確率的に出力が変わり、完全一致の単体テストが効きにくい。本記事は実際に作って回す手順に軸を置き、品質を測る5つの方法（①正解データセット照合 ②ルールベース判定 ③LLM-as-judge＝AIに採点させる ④回帰テスト＝変更前後の比較 ⑤本番モニタリング）、エージェント特有の評価（タスク成功率・ツール呼び出しの正しさ・軌跡・コスト）、20件から小さく始める手順、よくある落とし穴、主要ツール（Anthropic Console/Evals・OpenAI Evals・LangSmith・Langfuse・Ragas）までを実務者向けに整理する。

業務自動化で必ず出るのが「AIエージェントとRPA、どっちを使う？」。結論は二者択一ではなく役割で使い分け、2026年の勝ちパターンは両者のハイブリッド。RPAは決まった手順を高速・正確にこなす決定的な「手」（変化に弱く画面変更で壊れる）、AIエージェントは状況を読んで判断する確率的な「頭」（曖昧さ・例外に強いが毎回同じ結果とは限らない）。本記事は動作原理の違い、比較表（再現性と変化耐性のトレードオフ）、使い分け（判断軸は「規則で書き切れるか」＝書けるならRPA、書けない判断が要るならAIエージェント）、2026年の潮流（UiPath・Automation Anywhere・Blue PrismなどRPA大手のエージェント化＝収束、対立でなく「判断をどこに置くか」＝オーケストレーション優先）、そして実務の正解＝ハイブリッド（頭＝AIエージェントが判断・オーケストレーション、手＝RPAが定型実行、決定性が要る所にエージェントを置かない、ガードレールと人間承認）まで整理。各社公式情報に基づき、FAQ付きで実務者向けに解説する。

AWSの運用・管理をAIに任せられるか。2026年は「かなり任せられる」段階に入った。AWS自身がAmazon Q DeveloperやAIエージェントがAWSを操作する公式基盤「Agent Toolkit for AWS」(2026年5月・40以上のagent skills＋マネージドAWS MCP Server＋プラグイン)を出し、IaC生成からリソース操作までAIが踏み込める。本記事は「任せる」を3段階(①コード/IaC生成支援②読み取り中心の運用・調査③実際にAWSを操作する自律エージェント)で整理し、主要ツール(Amazon Q Developer/Agent Toolkit/AWS MCP Server/Terraform MCP/Bedrock AgentCore)、メリット(IaCの速さ・一次調査自動化・コスト最適化提案・知識の民主化)、そして本題のデメリット(IAM権限の肥大化=permission sprawl、過剰権限がミス/プロンプトインジェクションの実行加速器になる、権限がタスクを越えて残る、コスト暴走。2025-26には本番DB削除の実例も)を、AWS公式・セキュリティ各社の情報をもとに解説。結論の「ひとひねり」は、論点は"できるか"ではなく"暴走・課金爆発なしにどう任せるか"であり、AWS自身がAgent ToolkitにIAMガードレール/CloudTrail監査/サンドボックスを組み込んだのが答えの形という点。最小権限IAM＋破壊的操作の人間承認＋可観測性＋JIT短命資格情報＋サンドボックスの5原則とFAQ付き。

AIエージェントを業務に組み込む最初の関門が「どのフレームワークで作るか」。本記事は開発者・技術選定者の視点で、LangGraph・CrewAI・AutoGen(2026年4月GAのMicrosoft Agent Frameworkへ統合)・OpenAI Agents SDK・Google ADK・Claude Agent SDKの6つを、オーケストレーション方式(有向グラフ/役割crew/会話GroupChat/ハンドオフ/階層ツリー/自律ツールループ)・対応言語・学習曲線・制御性・本番成熟度・トークンコスト・向く用途で具体的に比較する。最大の注意点は「試作で最速のCrewAIが、本番ではトークン約3倍(あるベンチで41k vs LangGraph 18.5k)かつ非決定的で金融・医療に不向き」という、試作の勝者と本番の勝者が逆転する罠。さらに2026年はMCP(ツール連携)とA2A(エージェント間連携)で異なるフレームワークが相互運用できるようになり、ロックインが薄れた点を解説。用途別の選び方とFAQ付き。

マルチエージェントの作り方で「増やす前に全ハンドオフを計測せよ」と書いた、その計測を本番で支える技術がAIオブザーバビリティ（可観測性）。LLMやエージェントが本番で実際に何をしているか（どのモデルをどんなプロンプトで呼び・どのツールや検索を使い・何を返し・何秒いくらかかったか）を記録し問題の原因まで遡れるようにする。普通のアプリ監視との決定的な違いは、AIは200 OK・50msで返しながら堂々と嘘（ハルシネーション）をつくことがある点で、AIの障害の多くはインフラ障害でなく品質障害（ハルシネーション・検索失敗・安全でない回答・タスク未完了・ツール誤用・プロンプト変更後の劣化）。オブザーバビリティは3本柱＝トレース（1リクエストの実行経路をスパンの木で記録・AI観測の主役）・メトリクス（レイテンシ/コスト/トークン/エラー率を数値集計）・ログ（個別イベントの詳細）で語られ、業界標準のOpenTelemetry GenAI規約がプロンプト・応答・トークン・ツール呼び出しをベンダー非依存スキーマで扱う。最も混同しやすい評価（Evals）との違いは、オブザーバビリティが何が起きたかを見る（計測は簡単だが答えの正しさは分からない）のに対し評価は答えの質が良いかを測る（明示的なEvalsが必要）こと。コストとレイテンシは簡単に測れるが答えの質は評価がないと分からないため2026年の主要ツールはトレース表示＋出力スコアリング＋劣化アラートを一体提供する。見るべきメトリクスは運用系（コスト・レイテンシ・トークン・エラー率）と品質系（ハルシネーション・根拠性groundedness＝RAGで最重要・安全性・タスク完了度）に分かれハルシネーション検知にはLLM-as-a-judge/意味的類似度/根拠性スコアを使う。主要ツールはLangSmith（LangChain系）・Langfuse（OSSセルフホスト）・Arize Phoenix（RAGデバッグ）・MLflow（ライフサイクル）・AgentOps（エージェント）・OpenTelemetry（標準規格）。始め方はトレース取得→運用メトリクス可視化→評価接続の順で本番前から入れること。とくにマルチエージェントでは失敗が多段の因果連鎖に隠れるためセッション全体のトレースが必須。観測＋評価の両輪で初めて本番品質。数値・特徴は各種公表資料の引用で傾向の参考。

マルチエージェントとは？で概念を押さえた次の実践編。2026年の事実上の標準であるスーパーバイザー型（司令塔型）を題材に、5ステップの作り方を初心者向けに解説する。最重要原則はまず単一エージェントで作り限界にぶつかってから最小構成で増やすこと（約8割の用途は単一で足り、一本道の単純処理にマルチを使うとコストが3〜10倍に膨らみGoogle研究では逐次タスクで単一比−39〜70%の精度低下）。マルチにすべき3つのサインは専門性の分離・並列性・判断の分離。基本形のスーパーバイザー型は司令塔が全体タスクを受け取りサブタスクに分解し専門ワーカーに委任し結果を統合する形で、Claude Codeのサブエージェント・LangGraph Supervisor・OpenAI Agents SDKのハンドオフが軒並み収束した標準。対応フレームワークが最も広く・失敗モード（過剰委任）が既知で反復上限により抑えられ・監査しやすいのが理由。5ステップは①課題を前もって明確に分解②ワーカーを1役割＋専用ツール＋出力フォーマットで定義（最大3〜5体）③司令塔のプロンプトに呼べるワーカー名を明示的に列挙（ハードキャップ）し個々のワーカーより司令塔設計に最も時間をかける④ハンドオフと文脈共有を決め全文脈を渡さず必要分だけ渡す（標準規約がA2A）⑤エージェントを増やす前に全ハンドオフを計測し反復回数・トークン・コストに上限を設定しEvalsとガードレールも同時に整える。フレームワーク非依存の擬似コードでワーカー定義・司令塔のワーカー名ハードキャップ・反復上限付き実行ループを提示。よくある落とし穴と対策は過剰委任（反復上限＋呼べる相手限定）・トークン肥大（必要分だけ共有＋キャッシュ）・不安定さ（3〜5体に絞る＋出力固定）・逐次での精度低下（単一に戻す）・失敗箇所不明（可観測性）。共通教訓はフレームワークよりプロンプト・ツール設計・評価ハーネスが成否を決めること。小さく作って測ってから増やす規律が結局いちばん速い。数値は各種公表資料・研究報告の引用で条件依存の傾向値。

AIエージェントが当たり前になり、次の課題はエージェント同士をどう連携させるかに移った。MCPがエージェントを道具につなぐ標準なら、A2A（Agent2Agent）はエージェントを別のエージェントにつなぐ標準。異なるベンダー・フレームワークで作られたAI同士が共通の作法で会話し協力できるようにする。Googleが2025年4月に公開し同年6月にLinux Foundationへ寄贈、2026年にv1.0へ到達。本記事は、正体（会社間の業務提携のたとえ）、なぜ必要か（計画→ホテル予約→決済のように専門エージェントがリレーで協力する時代）、MCPとの違い（MCPは縦＝エージェント↔ツール、A2Aは横＝エージェント↔エージェント、両方を重ねる2層構成が標準）、仕組み（Agent Card＝/.well-known/agent-card.jsonに置く能力の名刺で発見→Task＝依頼でsubmitted/working/completed等の状態→Artifact＝結果。HTTP・SSE・JSON-RPC 2.0の上に作られ、各エージェントは内部を隠したまま安全に協力）、現状と実装（2026年4月時点で150超の組織が本番採用・GitHubスター22,000超・5言語SDK＝Python/JavaScript/Java/Go/.NET、Microsoft・Salesforce・SAP・ServiceNow等が参加）までを初心者向けに解説。道具につなぐ＝MCP、仲間につなぐ＝A2Aが覚え方。

RAGを作ったのに検索の精度がいまいち——そんなときに効くのがリランキング（reranking／再ランク付け）。埋め込み（ベクトル）検索でざっくり集めた候補を、もう一段、関連度で並べ替えて上位だけ残す処理で、RAGの回答品質を大きく左右する検索精度の最後のひと押し。本記事は、リランキングの正体（一次選考と最終面接のたとえ）、なぜ必要か（埋め込み検索はクエリと文書を別々にベクトル化するため関連度の見極めが粗い）、2段階検索の仕組み（速い埋め込み検索で広く取得＝再現率→リランカーで上位に絞る＝精度→LLMに渡す。研究で精度が大きく改善し一例で約40%向上と報告）、なぜリランカーが正確か（bi-encoder＝別々に見て速いが近似、cross-encoder＝クエリと文書を一緒に入れて関連度スコア0〜1を直接出すため正確だが重い）、モデルと実装（API型＝Cohere Rerank/Voyage/Jina、OSS型＝BGE reranker/mixedbread/FlashRank、LLMで採点するRankLLM等。既存のベクトル検索の取得件数を50〜100に増やしリランカーで上位5件に絞る1工程を足すだけ）までを初心者向けに解説。「広く取得して賢く絞る」が原則で、件数はAI評価で測りながら調整する。

AIアプリを作れるようになったら、次は安全に運用する段階。LLMは便利な一方で、悪意ある入力にだまされたり、機密情報を漏らしたり、でたらめを自信満々に答えたりする。これを防ぐ安全装置がAIガードレール（guardrails）で、AIエージェントの事故が現実に起きる2026年には本番運用の必須要素になっている。ガードレールとは、危険な入力や望ましくない出力をせき止めるルールやフィルタで、ユーザー入力をLLMに渡す前と、回答を返す前の両側でチェックする独立した安全層。主な脅威はプロンプトインジェクション（最重要）・脱獄（ジェイルブレイク）・情報漏えい（機密/PII/システムプロンプト）・幻覚や有害出力。守り方は入力ガードレール（注入・脱獄検知、PII検出、話題制限、サニタイズ）と出力ガードレール（有害フィルタ、漏えい防止、幻覚チェック、形式検証）の2層。最大の脅威プロンプトインジェクションには直接（ユーザーが「これまでの指示を無視して」と上書き）と間接（WebやRAG文書に隠した命令でAIを操る）があり、間接はRAGだけでは防げず取得文書へのチェックが必要。本記事は、ツール（LLM Guard・Guardrails AI・NeMo Guardrails・Llama Guard・Azure/AWS/OpenAIの安全機能）と、多層防御・最小権限・人間の承認・継続監視という実務の原則まで初心者向けに解説する。

RAGも意味検索もレコメンドも、その裏側で必ず使われている縁の下の力持ちがエンベディング（embedding／ベクトル）だ。エンベディングとは、テキスト（や画像など）の意味を数字の並び＝ベクトルに変換したもの。「犬」を数百〜数千個の数字の列に置き換え、その並びが「意味の座標」になる。意味の近い言葉どうしは空間上の近い位置に配置され（犬と子犬は近く、犬と自動車は遠い）、コサイン類似度などで近さを数値化できる——だから文字が一致しなくても機械が「意味が近いか」を判断できる。有名な「王様−男性＋女性≒女王」のように意味の関係がベクトル演算で表れることも。本記事は、正体（意味の地図のたとえ）、なぜ近さで意味が測れるか、用途（RAG・意味検索・分類/重複検出・推薦、マルチモーダル）、埋め込みモデルの選び方（API型＝OpenAI text-embedding-3/Cohere/Gemini/Voyage、OSS型＝BGE-M3/Nomic/Qwen3、Matryoshkaで次元を後から圧縮し3072→1024で品質約95%維持・コスト約1/3）、ベクトルDB（Pinecone/Weaviate/Qdrant/Chroma/pgvector）と始め方（モデル選択→文書をベクトル化して保存→質問もベクトル化して検索）までを初心者向けに解説。RAG実装の土台であり、精度はAI評価で測りながら改善するとよい。

プロンプトを磨きRAGやファインチューニングをした後、「本当に良くなったのか」をどう確かめるか。主役になるのがAI評価（Evals）で、2026年には「評価はインフラ」と言われるほどAI開発に欠かせない工程になっている。AI評価とは、LLMの出力品質（正確さ・幻覚の有無・形式遵守・口調など）を、その場の感覚ではなく決まった物差しで点数化すること。評価がなければ改善は"勘"になる。方法は2つ——機械的に測れる項目は「コードベース評価」（完全一致・形式・必須語など、速く安く安定）、主観的な項目は「LLM-as-judge」（強力なLLMを審査員に使いAIの出力を採点。ペアワイズ比較と単体スコアリング）。原則はコードで測れるものはコードで。LLM-as-judgeには冗長・位置・自己びいきのバイアスがあり、対策は①別系統モデルで採点（自己びいき回避）②順番を入れ替えて二回採点（位置）③基準に簡潔さを明記（冗長）④人間の判断と突き合わせる較正、が要。採点は1〜10より「合格/不合格」など粗いほうが安定。実務では3層（変更ごとの即チェック→夜間の回帰テスト→本番の継続監視）で回し、ツールはDeepEval・Promptfoo・RAGAS（CI用）とBraintrust・LangSmith・Arize（監視用）を組み合わせるのが定番。まずは良い出力・悪い出力を各10件集めて採点するのが最初の物差し。