LLM とモデルのプロバイダー

このページでは、Hermes Agent が使う推論プロバイダーの設定を扱います。OpenRouter や Anthropic のようなクラウド API から、Ollama や vLLM のような自前で立てたエンドポイント、さらには込み入った振り分けやフォールバックの設定までが対象です。Hermes を使うには、少なくとも 1 つのプロバイダーを設定しておく必要があります。

推論プロバイダー

LLM につながる手段が最低 1 つ必要です。hermes model を使えば対話的にプロバイダーとモデルを切り替えられますし、直接設定することもできます。

公式の API キーを使う道筋は、専用の Google Gemini ガイドを参照してください。

Nous Portal

Nous Portal は Nous Research が提供するサブスクリプション統合ゲートウェイで、Hermes Agent を動かすうえで推奨の方法です。OAuth で 1 回ログインするだけで、300 以上の最前線のエージェント向けモデル（Claude、GPT、Gemini、DeepSeek、Qwen、Kimi、GLM、MiniMax、Grok、…）と Tool Gateway（Web 検索、画像生成、TTS、ブラウザーの自動操作）がまとめて使えます。課金はプロバイダーごとの個別アカウントではなく、Nous のサブスクリプションに寄せられます。

hermes setup --portal     # fresh install — OAuth + provider + gateway in one command
hermes model              # existing install — pick "Nous Portal" from the list
hermes portal info        # inspect login + routing at any time

サブスクリプションをまだ持っていない場合は、portal.nousresearch.com/manage-subscription から契約できます。

詳しくは: 専用の Nous Portal 連携ページ（サブスクリプションに含まれるもの、モデルの一覧、トラブルシューティング）と、手順を追った Nous Portal で Hermes Agent を動かすガイドを参照してください。

クライアントの識別。 Hermes Agent から Portal へ送られるリクエストには、client=hermes-client-v<version> というタグ（たとえば client=hermes-client-v0.13.0）が必ず付き、インストール済みのリリースに自動で合わせられます。これはメインのチャットの流れ、補助的な呼び出し、圧縮の要約、Web 抽出といった Portal を通るすべての経路で送られ、Portal 側の計測が Hermes の通信を他のクライアントと区別できるようにします。設定は不要で、hermes update を実行すればタグも自動で更新されます。

JWT 認証（自動）。 Hermes は Portal へのリクエストに、inference:invoke のスコープを持つ JWT を優先して使い、従来の不透明なセッションキーの経路を控えとして残しています。設定は不要です。認証情報は OAuth の流れが管理し、利用者からは見えないところで入れ替わります。失効したリフレッシュトークンは、再送のループを避けるために隔離されます。

モデル管理の 2 つのコマンド

Hermes には、目的の違うモデル関連のコマンドが 2 つあります。

まだ設定していないプロバイダーへ切り替えたいとき（たとえば OpenRouter しか設定していないのに Anthropic を使いたいとき）は、/model ではなく hermes model が必要です。いったんセッションを抜け（Ctrl+C か /quit）、hermes model を実行してプロバイダーの設定を済ませてから、新しいセッションを始めてください。

サブスクリプションのプラン: 契約が何の支払いになるのか

いくつかのプロバイダーでは、API キーの代わりに個人向けのサブスクリプション（Claude Max、ChatGPT、SuperGrok / X Premium+、…）で Hermes にサインインできます。その契約が実際に何を支払っていて、何を支払っていないのかはプロバイダーごとに違い、請求で驚く原因としてはこれが最も多いものです。下の表は短くまとめたものです。詳しくは各プロバイダーの節にあります。

> *現時点では未記載*とあるセルは、文字どおりの意味です。Hermes のドキュメントがまだその挙動を定めていません。決めつけず、プロバイダーの請求ダッシュボードを確認し、未解決の問いとして扱ってください。

Anthropic。 OAuth の経路は Anthropic のアカウントに対して Claude Code として振り分けられ、追加の利用クレジットを購入した Claude Max プランでのみ動きます。Max の基本枠が Hermes に消費されることはなく、上乗せした追加分 / 超過分のクレジットだけが使われます。Claude Pro の契約者はこの経路を使えません。代わりに使えるのは ANTHROPIC_API_KEY で、そのキーの組織に対して標準の API 価格でトークン従量課金されます。下の Anthropic（ネイティブ）を参照してください。

OpenAI Codex。 Hermes は ChatGPT のデバイスコード OAuth で認証し、認証情報を ~/.hermes/auth.json に保存し、~/.codex/auth.json にある既存の Codex CLI の認証情報を取り込めます。どの ChatGPT のプランが対象になるのか、Hermes の利用がプランの Codex の上限にどう数えられるのかは、現時点では未記載です。Nous Portal の下にある Codex の注記が扱っているのは、認証とトークン更新の挙動だけです。

xAI（SuperGrok / X Premium+）。 ブラウザーでの OAuth は、有効な SuperGrok の契約か、連携した X アカウントの X Premium+ の契約のどちらかで動きます。同じベアラートークンは、xAI へ直接つながるツール（TTS、画像生成、動画生成、文字起こし、X Search）でも使い回されます。ログインに成功したのに推論が HTTP 403 を返す場合、それは古いトークンの問題ではなく xAI 側の等級・権限の制限です。回避策は XAI_API_KEY へ切り替えることです。下の xAI（Grok）と xAI Grok OAuth ガイドを参照してください。

Google Gemini。 いまのところ、個人向けの Gemini の契約で Hermes にサインインする方法はありません。gemini プロバイダーは API キーを取り、Google Vertex AI は GCP プロジェクトに課金されます。エージェント用途には、課金を有効にした Google Cloud プロジェクトを勧めます。無料枠は、長く走るエージェントのセッションには小さすぎます。Google Gemini ガイドを参照してください。

Anthropic（ネイティブ）

OpenRouter を経由せず、Anthropic の API から直接 Claude のモデルを使います。認証方法は 3 通りあります。

# With an API key (pay-per-token)
export ANTHROPIC_API_KEY=***
hermes chat --provider anthropic --model claude-sonnet-4-6

# Preferred: authenticate through `hermes model`
# Hermes will use Claude Code's credential store directly when available
hermes model

# Manual override with a setup-token (fallback / legacy)
export ANTHROPIC_TOKEN=***  # setup-token or manual OAuth token
hermes chat --provider anthropic

# Auto-detect Claude Code credentials (if you already use Claude Code)
hermes chat --provider anthropic  # reads Claude Code credential files automatically

hermes model から Anthropic OAuth を選ぶと、Hermes はトークンを ~/.hermes/.env へ写すより、Claude Code 自身の認証情報ストアを使うほうを選びます。こうすることで、更新できる Claude の認証情報が更新できるまま保たれます。

設定として固定することもできます。

model:
  provider: "anthropic"
  default: "claude-sonnet-4-6"

GitHub Copilot

Hermes は GitHub Copilot を一級のプロバイダーとして扱い、2 つのモードに対応します。

copilot — Copilot API を直接使う方式（推奨）。GitHub Copilot の契約を使って、Copilot API 経由で GPT-5.x、Claude、Gemini などのモデルを利用します。

hermes chat --provider copilot --model gpt-5.4

認証の選択肢（この順に調べられます）:

1. COPILOT_GITHUB_TOKEN 環境変数
2. GH_TOKEN 環境変数
3. GITHUB_TOKEN 環境変数
4. gh auth token という CLI の受け皿

トークンが見つからない場合、hermes model は OAuth のデバイスコードによるログインを提示します。Copilot CLI や opencode が使っているのと同じ流れです。

API の振り分け: GPT-5 以降のモデル（gpt-5-mini を除く）は自動的に Responses API を使います。それ以外のモデル（GPT-4o、Claude、Gemini など）は Chat Completions を使います。モデルは Copilot の最新カタログから自動で検出されます。

copilot-acp — Copilot ACP のエージェントを裏側に使う方式。ローカルの Copilot CLI を子プロセスとして起動します。

hermes chat --provider copilot-acp --model copilot-acp
# Requires the GitHub Copilot CLI in PATH and an existing `copilot login` session

恒久的な設定:

model:
  provider: "copilot"
  default: "gpt-5.4"

一級の API キー方式プロバイダー

次のプロバイダーは、専用のプロバイダー ID を持つ組み込み対応です。API キーを設定し、--provider で選びます。

# Fireworks AI
hermes chat --provider fireworks --model accounts/fireworks/models/kimi-k2p6
# Requires: FIREWORKS_API_KEY in ~/.hermes/.env

# NovitaAI Model API
hermes chat --provider novita --model moonshotai/kimi-k2.5
# Requires: NOVITA_API_KEY in ~/.hermes/.env

# Ramp Router (model IDs come from your account's live catalog)
hermes chat --provider router --model gpt-5.4-mini
# Requires: RAMP_ROUTER_API_KEY in ~/.hermes/.env

# z.ai / ZhipuAI GLM
hermes chat --provider zai --model glm-5
# Requires: GLM_API_KEY in ~/.hermes/.env

# Kimi / Moonshot AI (international: api.moonshot.ai)
hermes chat --provider kimi-coding --model kimi-for-coding
# Requires: KIMI_API_KEY in ~/.hermes/.env

# Kimi / Moonshot AI (China: api.moonshot.cn)
hermes chat --provider kimi-coding-cn --model kimi-k2.5
# Requires: KIMI_CN_API_KEY in ~/.hermes/.env

# MiniMax (global endpoint)
hermes chat --provider minimax --model MiniMax-M2.7
# Requires: MINIMAX_API_KEY in ~/.hermes/.env

# MiniMax (China endpoint)
hermes chat --provider minimax-cn --model MiniMax-M2.7
# Requires: MINIMAX_CN_API_KEY in ~/.hermes/.env

# Qwen Cloud / DashScope (Qwen models)
hermes chat --provider alibaba --model qwen3.5-plus
# Requires: DASHSCOPE_API_KEY in ~/.hermes/.env

# Xiaomi MiMo
hermes chat --provider xiaomi --model mimo-v2-pro
# Requires: XIAOMI_API_KEY in ~/.hermes/.env

# Tencent TokenHub (Hy4 preview)
hermes chat --provider tencent-tokenhub --model hy4-preview
# Requires: TOKENHUB_API_KEY in ~/.hermes/.env

# Tencent TokenPlan (Hy4 preview via Anthropic Messages endpoint)
hermes chat --provider tencent-tokenplan --model hy4-preview
# Requires: TOKENPLAN_API_KEY in ~/.hermes/.env

# Arcee AI (Trinity models)
hermes chat --provider arcee --model trinity-large-thinking
# Requires: ARCEEAI_API_KEY in ~/.hermes/.env

# Meta Model API (Muse Spark family)
hermes chat --provider meta-ai --model muse-spark-1.2
# Requires: MODEL_API_KEY in ~/.hermes/.env

# GMI Cloud
# Use the exact model ID returned by GMI's /v1/models endpoint.
hermes chat --provider gmi --model zai-org/GLM-5.1-FP8
# Requires: GMI_API_KEY in ~/.hermes/.env

# Nebius Token Factory
hermes chat --provider nebius --model deepseek-ai/DeepSeek-V4-Pro
# Requires: NEBIUS_API_KEY in ~/.hermes/.env

Fireworks は accounts/fireworks/models/kimi-k2p6 のような、スラッシュ区切りの独自のカタログ ID を使います。hermes model を実行して Fireworks AI を選び、最新のカタログから選ぶか、別の Fireworks のモデル ID を入力してください。既定のエンドポイントは https://api.fireworks.ai/inference/v1 です。別のエンドポイントを使うときは .env ではなく、config.yaml の model.base_url で設定します。

config.yaml でプロバイダーを固定することもできます。

model:
  provider: "gmi"
  default: "zai-org/GLM-5.1-FP8"

ベース URL は NOVITA_BASE_URL、GLM_BASE_URL、KIMI_BASE_URL、MINIMAX_BASE_URL、MINIMAX_CN_BASE_URL、DASHSCOPE_BASE_URL、XIAOMI_BASE_URL、GMI_BASE_URL、META_BASE_URL、TOKENHUB_BASE_URL の各環境変数で上書きできます。

xAI（Grok） — Responses API とプロンプトキャッシュ

xAI は Responses API（codex_responses トランスポート）につないであり、Grok 4 系のモデルで推論が自動的に有効になります。reasoning_effort のパラメーターは不要で、サーバー側が既定で推論します。~/.hermes/.env に XAI_API_KEY を設定し、hermes model で xAI を選ぶか、/model grok-4-fast-reasoning のように grok を近道として使ってください。

SuperGrok と X Premium+ の契約者は、API キーを使わずブラウザーの OAuth でサインインできます。hermes model で xAI Grok OAuth (SuperGrok / Premium+) を選ぶか、hermes auth add xai-oauth を実行します。同じ OAuth のベアラートークンは、xAI へ直接つながるツール（TTS、画像生成、動画生成、文字起こし）でも自動的に使い回されます。全体の流れは xAI Grok OAuth ガイドを参照してください。Hermes をリモートのホストで動かしている場合は、必要になる ssh -L のトンネルについて SSH 越しの OAuth / リモートホストもあわせて参照してください。

xAI をプロバイダーとして使っている間（ベース URL に x.ai を含むもの全般）、Hermes はすべての API リクエストに x-grok-conv-id ヘッダーを添えて、プロンプトキャッシュを自動的に有効にします。これにより会話のセッション内では同じサーバーへリクエストが向かい、xAI の基盤側がシステムプロンプトと会話の履歴のキャッシュを再利用できます。

設定は不要です。xAI のエンドポイントが検出され、セッション ID が使えるときに自動で有効になります。何往復もする会話では、これで待ち時間と費用が下がります。

xAI は専用の TTS エンドポイント（/v1/tts）も提供しています。hermes tools → Voice & TTS で xAI TTS を選ぶか、設定については音声と TTS のページを参照してください。

引退する xAI のモデルの移行（2026 年 5 月 15 日）: xAI は 2026-05-15 に grok-4*、grok-3、grok-code-fast-1、grok-imagine-image-pro を引退させます。hermes doctor と hermes chat の起動時のどちらも、引退する参照を指したままの設定を検出して、推奨の置き換え先を表示します。設定を一度に書き換えるには hermes migrate xai を使ってください。既定では実行せずに内容を見せるだけで、--apply を付けると書き込みます（config.yaml.bak-pre-migrate-xai-* という日時付きのバックアップが自動で作られます）。

hermes migrate xai          # preview replacements
hermes migrate xai --apply  # rewrite ~/.hermes/config.yaml in place

xAI の Web 検索バックエンド。 Web 検索のツール群を有効にしているとき、web.backend: xai を指定すると、検索は同じ XAI_API_KEY / OAuth の認証情報を使って xAI のホスト型検索エンドポイントへ回されます。xAI をすでにプロバイダーとして設定してあれば、追加の準備は要りません。

NovitaAI

NovitaAI は、作り手とエージェントのための AI ネイティブなクラウドです。製品は 3 つの系統からなり、200 以上のモデルを扱う Model API、AI エージェントを作って動かす Agent Sandbox、規模を変えられる計算資源の GPU Cloud が、いずれも 1 つのプラットフォームから使えます。

# Use any available model
hermes chat --provider novita --model moonshotai/kimi-k2.5
# Requires: NOVITA_API_KEY in ~/.hermes/.env

# Short alias
hermes chat --provider novita-ai --model deepseek/deepseek-v3-0324

config.yaml で固定することもできます。

model:
  provider: "novita"
  default: "moonshotai/kimi-k2.5"
  base_url: "https://api.novita.ai/openai/v1"

API キーは novita.ai/settings/key-management で取得します。ベース URL は NOVITA_BASE_URL で上書きできます。

Ollama Cloud — 運用込みの Ollama モデル、OAuth と API キー

Ollama Cloud は、ローカルの Ollama と同じ公開重みのカタログを、GPU なしで使えるように提供します。hermes model で Ollama Cloud を選び、ollama.com/settings/keys から API キーを貼り付ければ、Hermes が使えるモデルを自動で見つけます。

hermes model
# → pick "Ollama Cloud"
# → paste your OLLAMA_API_KEY
# → select from discovered models (gpt-oss:120b, glm-4.6:cloud, qwen3-coder:480b-cloud, etc.)

config.yaml を直接書いてもかまいません。

model:
  provider: "ollama-cloud"
  default: "gpt-oss:120b"

モデルの一覧は ollama.com/v1/models から動的に取得され、1 時間だけ記憶されます。model:tag の書き方（たとえば qwen3-coder:480b-cloud）は正規化しても保たれます。ダッシュに置き換えないでください。

AWS Bedrock

AWS Bedrock 経由で Anthropic Claude、Amazon Nova、DeepSeek v3.2、Meta Llama 4 などのモデルを使います。認証には AWS SDK（boto3）の認証情報の連鎖を使うので、API キーは要らず、標準的な AWS の認証だけで済みます。

# Simplest — named profile in ~/.aws/credentials
hermes chat --provider bedrock --model us.anthropic.claude-sonnet-4-6

# Or with explicit env vars
AWS_PROFILE=myprofile AWS_REGION=us-east-1 hermes chat --provider bedrock --model us.anthropic.claude-sonnet-4-6

config.yaml で固定することもできます。

model:
  provider: "bedrock"
  default: "us.anthropic.claude-sonnet-4-6"
bedrock:
  region: "us-east-1"          # or set AWS_REGION
  # profile: "myprofile"       # or set AWS_PROFILE
  # discovery: true            # auto-discover region from IAM
  # guardrail:                 # optional Bedrock Guardrails
  #   guardrail_identifier: "your-guardrail-id"
  #   guardrail_version: "DRAFT"

認証には標準の boto3 の連鎖を使います。明示した AWS_ACCESS_KEY_ID/AWS_SECRET_ACCESS_KEY、~/.aws/credentials の AWS_PROFILE、EC2/ECS/Lambda 上の IAM ロール、IMDS、SSO のいずれかです。AWS CLI ですでに認証済みなら、環境変数は要りません。

Bedrock は裏で Converse API を使います。リクエストは Bedrock のモデル非依存の形へ変換されるので、Claude、Nova、DeepSeek、Llama のどのモデルでも同じ設定が通用します。BEDROCK_BASE_URL は、既定以外のリージョンのエンドポイントを呼ぶときにだけ設定してください。

IAM の設定、リージョンの選び方、リージョンをまたぐ推論の手順は AWS Bedrock ガイドを参照してください。

Google Vertex AI

Vertex の OpenAI 互換エンドポイント経由で、Google Cloud Vertex AI の Gemini モデルを使います。認証は OAuth2 で、サービスアカウントの JSON か Application Default Credentials（ADC）から発行される短命（約 1 時間）のアクセストークンを使います。固定の API キーはありません。 トークンの発行と自動更新は Hermes が行い、セッションの途中で 401 が返ったときの再発行も面倒を見ます。

# Service account JSON (recommended for servers / gateways)
echo "VERTEX_CREDENTIALS_PATH=/path/to/service-account.json" >> ~/.hermes/.env
# or Application Default Credentials
gcloud auth application-default login

hermes model   # → "Google Vertex AI" → project → region → model

config.yaml に書くこともできます（プロジェクトとリージョンは秘密ではないのでここに置き、認証情報のパスは .env に残します）。

model:
  provider: "vertex"
  default: "google/gemini-3-flash-preview"   # Vertex requires the google/ prefix
vertex:
  project_id: "my-gcp-project"   # blank → use the project embedded in the credentials
  region: "global"               # required for the Gemini 3.x previews

VERTEX_PROJECT_ID / VERTEX_REGION の環境変数は config.yaml の値を上書きします。Hermes は初回の利用時に google-auth を遅延インストールします。管理下のインストールが壊れたときは hermes setup を実行してください。全体の手順は Google Vertex AI ガイドを、固定の API キーで AI Studio を使う道筋は Google Gemini ガイドを参照してください。

Qwen Portal（OAuth）

ブラウザーで OAuth ログインする、Alibaba の Qwen Portal です。hermes model で Qwen OAuth (Portal) を選び、ブラウザーでサインインすると、Hermes がリフレッシュトークンを保存します。

hermes model
# → pick "Qwen OAuth (Portal)"
# → browser opens; sign in with your Alibaba account
# → confirm — credentials are saved to ~/.hermes/auth.json

hermes chat   # uses portal.qwen.ai/v1 endpoint

config.yaml で設定することもできます。

model:
  provider: "qwen-oauth"
  default: "qwen3-coder-plus"

HERMES_QWEN_BASE_URL は、ポータルのエンドポイントが移転したときにだけ設定してください（既定: https://portal.qwen.ai/v1）。

Alibaba Cloud（Coding Plan）

Alibaba の Coding Plan（標準の DashScope API とは別の価格の区分）を契約している場合、Hermes はそれを独立した一級のプロバイダー alibaba-coding-plan として公開します。エンドポイントは https://coding-intl.dashscope.aliyuncs.com/v1 です。通常の alibaba プロバイダーと同じく OpenAI 互換ですが、ベース URL と課金の窓口が違います。

model:
  provider: alibaba_coding     # alias for alibaba-coding-plan
  model: qwen3-coder-plus

CLI から使うこともできます。

hermes chat --provider alibaba_coding --model qwen3-coder-plus

alibaba_coding は、alibaba の設定ですでに使っているのと同じ DASHSCOPE_API_KEY を使います。別のキーは要らず、振り分け先が違うだけです。このプロバイダーが登録される前は、config.yaml に provider: alibaba_coding と書いた利用者は、黙って OpenRouter の振り分けへ落ちていました。

MiniMax（OAuth）

ブラウザーでの OAuth ログインで MiniMax-M2.7 を使います。API キーは要りません。hermes model で MiniMax (OAuth) を選び、ブラウザーでサインインすると、Hermes がアクセストークンとリフレッシュトークンを保存します。裏では Anthropic Messages 互換のエンドポイント（/anthropic）を使います。

hermes model
# → pick "MiniMax (OAuth)"
# → browser opens; sign in with your MiniMax account (global or CN region)
# → confirm — credentials are saved to ~/.hermes/auth.json

hermes chat   # uses api.minimax.io/anthropic endpoint

config.yaml で設定することもできます。

model:
  provider: "minimax-oauth"
  default: "MiniMax-M2.7"

対応するモデルは MiniMax-M2.7（メイン）と MiniMax-M2.7-highspeed（補助モデルの既定として設定済み）です。OAuth の経路では MINIMAX_API_KEY / MINIMAX_BASE_URL は無視されます。

NVIDIA NIM

build.nvidia.com（無料の API キー）またはローカルの NIM エンドポイント経由で、Nemotron などのオープンソースのモデルを使います。

# Cloud (build.nvidia.com)
hermes chat --provider nvidia --model nvidia/nemotron-3-super-120b-a12b
# Requires: NVIDIA_API_KEY in ~/.hermes/.env

# Local NIM endpoint — override base URL
NVIDIA_BASE_URL=http://localhost:8000/v1 hermes chat --provider nvidia --model nvidia/nemotron-3-super-120b-a12b

config.yaml で固定することもできます。

model:
  provider: "nvidia"
  default: "nvidia/nemotron-3-super-120b-a12b"

Hermes は build.nvidia.com へのすべてのリクエストに、NIM の課金元を示すヘッダーを自動で付けます。設定は不要です。これにより NVIDIA の請求ダッシュボードで、消費が正しい出どころに振り分けられます。

GMI Cloud

GMI Cloud 経由でオープンなモデルや推論モデルを使います。OpenAI 互換の API で、API キーによる認証です。

# GMI Cloud
hermes chat --provider gmi --model deepseek-ai/DeepSeek-V3.2
# Requires: GMI_API_KEY in ~/.hermes/.env

config.yaml で固定することもできます。

model:
  provider: "gmi"
  default: "deepseek-ai/DeepSeek-V3.2"

ベース URL は GMI_BASE_URL で上書きできます（既定: https://api.gmi-serving.com/v1）。

Actual Computer

Actual Computer を使って、自分の機材を非公開の推論クラスターにします。提供の形は 2 つあり、どちらも OpenAI 互換です（Hermes は Responses API のトランスポートを使います）。

• ホスト型の中継 — https://api.actual.inc。端から端まで暗号化され、*自分の*クラスターへ振り分けられます。認証には actual.inc/user/keys の ac_ で始まる推論キーを使います。
• ローカルのデーモン — 手元の http://127.0.0.1:8080 で動き、完全にオフラインです。API キーは要りません。Hermes がループバックのベース URL を検出し、内部の代用値で自動的に認証します。

# Hosted relay (ACTUAL_API_KEY in ~/.hermes/.env)
hermes chat --provider actual --model <model-id-from-your-cluster>

# Local daemon (ACTUAL_BASE_URL=http://127.0.0.1:8080 in ~/.hermes/.env, no key)
hermes chat --provider actual --model <installed-model-name>

config.yaml で固定することもできます。

model:
  provider: "actual"
  default: "<model-id>"

補足:

• モデル ID はクラスターの GET /v1/models から得られます。hermes model か curl -s https://api.actual.inc/v1/models -H "Authorization: Bearer $ACTUAL_API_KEY" で調べてください。
• ホスト名だけの指定は正規化されます。ACTUAL_BASE_URL=http://127.0.0.1:8080 は自動的に http://127.0.0.1:8080/v1 になります。
• 推論の深さは Actual が対応する範囲（none/low/medium/high/max）に丸められます。全体設定が xhigh/ultra でもリクエストが 400 になることはありません。
• 小さなローカルモデルの場合: Hermes の既定のツール一式とシステムプロンプトを合わせると 32k のコンテキストを超えることがあり、llama.cpp 系のサーバーから空のストリームのエラーが返ります。ツールを絞る（-t file,web）か、より大きなコンテキストでモデルを読み込んでください。任意の actual-setup スキル（hermes skills install official/devops/actual-setup）が、設定とトラブルシューティングを詳しく扱っています。
• 別名: actual-computer、actualcomputer、aci。

StepFun

StepFun 経由で Step 系のモデルを使います。OpenAI 互換の API で、API キーによる認証です。

# StepFun
hermes chat --provider stepfun --model step-3.5-flash
# Requires: STEPFUN_API_KEY in ~/.hermes/.env

config.yaml で固定することもできます。

model:
  provider: "stepfun"
  default: "step-3.5-flash"

ベース URL は STEPFUN_BASE_URL で上書きできます（既定: https://api.stepfun.com/v1）。

Hugging Face Inference Providers

Hugging Face Inference Providers は、統一された OpenAI 互換のエンドポイント（router.huggingface.co/v1）から 20 以上のオープンなモデルへ振り分けます。リクエストは自動でいちばん速い利用可能なバックエンド（Groq、Together、SambaNova など）へ回され、失敗時の切り替えも自動です。

# Use any available model
hermes chat --provider huggingface --model Qwen/Qwen3.5-397B-A17B
# Requires: HF_TOKEN in ~/.hermes/.env

# Short alias
hermes chat --provider hf --model deepseek-ai/DeepSeek-V3.2

config.yaml で固定することもできます。

model:
  provider: "huggingface"
  default: "Qwen/Qwen3.5-397B-A17B"

トークンは huggingface.co/settings/tokens で取得します。"Make calls to Inference Providers" の権限を必ず有効にしてください。無料枠も付いています（月 0.10 ドル分のクレジット。プロバイダー料金への上乗せはありません）。

モデル名には振り分けの接尾辞を付けられます。:fastest（既定）、:cheapest、または特定のバックエンドを指定する :provider_name です。

ベース URL は HF_BASE_URL で上書きできます。

独自 / 自前で立てた LLM プロバイダー

Hermes Agent は OpenAI 互換の API エンドポイントなら何とでも動きます。サーバーが /v1/chat/completions を実装していれば、Hermes をそこへ向けられます。つまり、ローカルのモデル、GPU の推論サーバー、複数プロバイダーを束ねるルーター、第三者の API のいずれも使えるということです。

基本の設定

独自エンドポイントの設定方法は 3 つあります。

対話式の設定（推奨）:

hermes model
# Select "Custom endpoint (self-hosted / VLLM / etc.)"
# Enter: API base URL, API key, Model name

手書きの設定（config.yaml）:

# In ~/.hermes/config.yaml
model:
  default: your-model-name
  provider: custom
  base_url: http://localhost:8000/v1
  api_key: your-key-or-leave-empty-for-local

どちらの方法でも config.yaml に保存されます。モデル、プロバイダー、ベース URL の正本はこのファイルです。

/model でモデルを切り替える

独自エンドポイントを 1 つでも設定してあれば、セッションの途中でモデルを切り替えられます。

/model custom:qwen-2.5          # Switch to a model on your custom endpoint
/model custom                    # Auto-detect the model from the endpoint
/model openrouter:claude-sonnet-4 # Switch back to a cloud provider

名前付きの独自プロバイダーを設定している場合（下記参照）は、3 つ組の書き方を使います。

/model custom:local:qwen-2.5    # Use the "local" custom provider with model qwen-2.5
/model custom:work:llama3       # Use the "work" custom provider with llama3

プロバイダーを切り替えると、Hermes はベース URL とプロバイダーを設定に保存するので、再起動しても切り替えが残ります。独自エンドポイントから組み込みのプロバイダーへ切り替えたときは、古いベース URL が自動で消されます。

以降はどれも同じ型で、URL とキーとモデル名を変えるだけです。

Ollama — ローカルのモデル、設定いらず

Ollama はコマンド 1 つで公開重みのモデルをローカルで動かします。向いている用途は、手軽なローカルでの試行、秘密を扱う作業、オフラインでの利用です。OpenAI 互換の API 経由でツール呼び出しにも対応します。

# Install and run a model
ollama pull qwen2.5-coder:32b
ollama serve   # Starts on port 11434

そのうえで Hermes を設定します。

hermes model
# Select "Custom endpoint (self-hosted / VLLM / etc.)"
# Enter URL: http://localhost:11434/v1
# Skip API key (Ollama doesn't need one)
# Enter model name (e.g. qwen2.5-coder:32b)

config.yaml を直接書いてもかまいません。

model:
  default: qwen2.5-coder:32b
  provider: custom
  base_url: http://localhost:11434/v1
  context_length: 64000   # See warning below

コンテキストが正しく設定できたかを確かめる:

ollama ps
# Look at the CONTEXT column — it should show your configured value

vLLM — 高性能な GPU 推論

vLLM は本番で LLM を提供するときの定番です。向いている用途は、GPU 環境での最大の処理量、大きなモデルの提供、連続バッチ処理です。

pip install vllm
vllm serve meta-llama/Llama-3.1-70B-Instruct \
  --port 8000 \
  --max-model-len 65536 \
  --tensor-parallel-size 2 \
  --enable-auto-tool-choice \
  --tool-call-parser hermes

そのうえで Hermes を設定します。

hermes model
# Select "Custom endpoint (self-hosted / VLLM / etc.)"
# Enter URL: http://localhost:8000/v1
# Skip API key (or enter one if you configured vLLM with --api-key)
# Enter model name: meta-llama/Llama-3.1-70B-Instruct

コンテキスト長: vLLM は既定でモデルの max_position_embeddings を読みます。それが GPU のメモリを超える場合はエラーになり、--max-model-len を下げるよう促されます。--max-model-len auto を使えば、収まる最大値を自動で見つけさせることもできます。--gpu-memory-utilization 0.95（既定は 0.9）を設定すると、VRAM にもう少しコンテキストを詰め込めます。

ツール呼び出しには明示のフラグが要ります:

対応する解析器は hermes（Qwen 2.5、Hermes 2/3）、llama3_json（Llama 3.x）、mistral、deepseek_v3、deepseek_v31、xlam、pythonic です。これらのフラグがないとツール呼び出しは動かず、モデルはツール呼び出しをただのテキストとして出力します。

Qwen の推論解析器: OpenAI 互換のサーバーが reasoning、reasoning_content、ストリームで届く推論の差分といった構造化された推論のメタデータを返す場合、Hermes はそれを保持します。ただしそのメタデータは推論・思考の記録として扱われ、アシスタントが表に出す答えの代わりにはなりません。vLLM で提供する Qwen の推論モデルでは、利用者に見える最終的な応答が content に入ったままであることを確かめてください。--reasoning-parser qwen3 を使うと content が空になる構成なら、その解析器を無効にするか、extra_body を通じて chat_template_kwargs.enable_thinking: false のような、サーバーが対応するリクエストの選択肢を渡してください。

SGLang — RadixAttention による高速な提供

SGLang は vLLM の代わりになるもので、KV キャッシュを再利用する RadixAttention を備えます。向いている用途は、何往復もする会話（前半部分のキャッシュ）、制約付きの生成、構造化された出力です。

pip install "sglang[all]"
python -m sglang.launch_server \
  --model meta-llama/Llama-3.1-70B-Instruct \
  --port 30000 \
  --context-length 65536 \
  --tp 2 \
  --tool-call-parser qwen

そのうえで Hermes を設定します。

hermes model
# Select "Custom endpoint (self-hosted / VLLM / etc.)"
# Enter URL: http://localhost:30000/v1
# Enter model name: meta-llama/Llama-3.1-70B-Instruct

コンテキスト長: SGLang は既定でモデルの設定から読み取ります。上書きするには --context-length を使います。モデルが宣言している最大値を超えたい場合は、SGLANG_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1 を設定してください。

ツール呼び出し: モデルの系統に合った解析器を --tool-call-parser で指定します。qwen（Qwen 2.5）、llama3、llama4、deepseekv3、mistral、glm があります。このフラグがないと、ツール呼び出しはただのテキストとして返ってきます。

llama.cpp / llama-server — CPU と Metal での推論

llama.cpp は、量子化したモデルを CPU、Apple Silicon（Metal）、民生用の GPU で動かします。向いている用途は、データセンター向けの GPU なしでモデルを動かすこと、Mac での利用、末端の機器での運用です。

# Build and start llama-server
cmake -B build && cmake --build build --config Release
./build/bin/llama-server \
  --jinja -fa \
  -c 64000 \
  -ngl 99 \
  -m models/qwen2.5-coder-32b-instruct-Q4_K_M.gguf \
  --port 8080 --host 0.0.0.0

コンテキスト長（-c）: 最近のビルドの既定は 0 で、GGUF のメタデータからモデルの学習時のコンテキストを読みます。学習時のコンテキストが 128k 以上のモデルでは、KV キャッシュを丸ごと確保しようとしてメモリ不足になることがあります。Hermes では -c を明示して、少なくとも 64,000 トークンにしてください。並列のスロット（-np）を使う場合、全体のコンテキストはスロットで分け合われます。-c 64000 -np 4 なら 1 スロットあたり 16k しかなく、動いているセッション 1 つあたりの Hermes の最低条件を下回ります。

そのうえで、Hermes をそこへ向けます。

hermes model
# Select "Custom endpoint (self-hosted / VLLM / etc.)"
# Enter URL: http://localhost:8080/v1
# Skip API key (local servers don't need one)
# Enter model name — or leave blank to auto-detect if only one model is loaded

これでエンドポイントが config.yaml に保存され、セッションをまたいで残ります。

LM Studio — ローカルのモデルを扱うデスクトップアプリ

LM Studio は、ローカルのモデルを GUI で動かすデスクトップアプリです。向いている用途は、画面で操作したい人、モデルをすばやく試したいとき、macOS/Windows/Linux の開発者です。

LM Studio のアプリからサーバーを起動する（Developer タブ → Start Server）か、CLI を使います。

lms server start                        # Starts on port 1234
lms load qwen2.5-coder --context-length 64000

そのうえで Hermes を設定します。

hermes model
# Select "LM Studio"
# Press Enter to use http://localhost:1234/v1
# Pick one of the discovered models
# If LM Studio server auth is enabled, enter LM_API_KEY when prompted

すでに読み込まれている LM Studio の状態については、Hermes はそのコンテキストをそのまま保ちます。まだ読み込まれていないモデルについては、既定の明示モードでは、Hermes 側でコンテキスト長を設定していない限り context_length を送りません。LM Studio が自分のモデル設定を適用できるようにするためです。そのあと Hermes は、読み込み後に LM Studio が報告したコンテキスト長だけを使います。

LM Studio でコンテキスト長を変えるには、次のようにします。

1. モデル選択の隣にある歯車のアイコンをクリックします
2. "Context Length" を、快適に使うには最低でも 64000 に設定します
3. 変更を反映させるためにモデルを読み込み直します
4. 64000 が機材に収まらない場合は、より小さくてコンテキスト長の大きいモデルを検討してください

あるいは CLI を使います: lms load model-name --context-length 64000

CLI を使えば、モデルが収まるかどうかを見積もることもできます: lms load model-name --context-length 64000 --estimate-only

モデルごとの既定を残すには、My Models タブ → モデルの歯車アイコン → コンテキストサイズを設定します。

:::

LM Studio の Just-In-Time の読み込み / Auto-Evict の機能を使っていて、通常のチャットのリクエストからモデルの読み込みと退避を LM Studio に任せたい場合は、Hermes 側の明示的な事前読み込みを飛ばせます。

hermes config set model.lmstudio_load_mode jit

既定の明示的な事前読み込みへ戻すには、次のようにします。

hermes config set model.lmstudio_load_mode explicit

ツール呼び出し: LM Studio 0.3.6 以降で対応しています。ツール呼び出しを学習済みのモデル（Qwen 2.5、Llama 3.x、Mistral、Hermes）は自動で判別され、ツールのバッジ付きで表示されます。それ以外のモデルは汎用の受け皿を使うので、信頼性は落ちるかもしれません。

WSL2 のネットワーク（Windows の利用者向け）

Hermes Agent は Unix 環境を必要とするため、Windows の利用者は WSL2 の中で動かします。モデルのサーバー（Ollama、LM Studio など）が Windows のホスト側で動いている場合は、ネットワークの隔たりを埋める必要があります。WSL2 は独自のサブネットを持つ仮想ネットワークアダプターを使うので、WSL2 の中の localhost は Linux の仮想マシンを指し、Windows のホストは指しません。

選択肢 1: ミラーリングのネットワークモード（推奨）

Windows 11 22H2 以降で使えるミラーリングモードでは、localhost が Windows と WSL2 の双方向で通じるようになります。いちばん簡単な解決策です。

1. %USERPROFILE%\.wslconfig（たとえば C:\Users\YourName\.wslconfig）を作るか編集します。

[wsl2]
networkingMode=mirrored

1. PowerShell から WSL を再起動します。

wsl --shutdown

1. WSL2 の端末を開き直します。これで localhost から Windows のサービスに届きます。

curl http://localhost:11434/v1/models   # Ollama on Windows — works

選択肢 2: Windows のホスト IP を使う（Windows 10 や古いビルド）

ミラーリングモードが使えない場合は、WSL2 の中から Windows のホスト IP を調べ、localhost の代わりにそれを使います。

# Get the Windows host IP (the default gateway of WSL2's virtual network)
ip route show | grep -i default | awk '{ print $3 }'
# Example output: 172.29.192.1

その IP を Hermes の設定で使います。

model:
  default: qwen2.5-coder:32b
  provider: custom
  base_url: http://172.29.192.1:11434/v1   # Windows host IP, not localhost

サーバーの待ち受けアドレス（NAT モードでは必須）

選択肢 2（ホスト IP を使う NAT モード）を使う場合、Windows 側のモデルのサーバーは 127.0.0.1 の外からの接続を受け付ける必要があります。既定では、ほとんどのサーバーは localhost でしか待ち受けません。NAT モードの WSL2 からの接続は別の仮想サブネットから来るので、拒否されてしまいます。ミラーリングモードでは localhost がそのまま対応づくので、既定の 127.0.0.1 への待ち受けで問題ありません。

Windows での Ollama（詳しく）: Ollama は Windows のサービスとして動きます。OLLAMA_HOST を設定するには、次のようにします。

1. システムのプロパティ → 環境変数を開きます
2. システム環境変数を新しく追加します: OLLAMA_HOST = 0.0.0.0
3. Ollama のサービスを再起動します（または再起動します）

Windows のファイアウォール

Windows のファイアウォールは、NAT モードでもミラーリングモードでも WSL2 を別のネットワークとして扱います。上の手順を踏んでもつながらない場合は、モデルのサーバーのポートに対してファイアウォールの規則を足してください。

# Run in Admin PowerShell — replace PORT with your server's port
New-NetFirewallRule -DisplayName "Allow WSL2 to Model Server" -Direction Inbound -Action Allow -Protocol TCP -LocalPort 11434

よく使うポート: Ollama は 11434、vLLM は 8000、SGLang は 30000、llama-server は 8080、LM Studio は 1234。

手早い確認

WSL2 の中から、モデルのサーバーに届くかを試します。

# Replace URL with your server's address and port
curl http://localhost:11434/v1/models          # Mirrored mode
curl http://172.29.192.1:11434/v1/models       # NAT mode (use your actual host IP)

モデルの一覧が JSON で返ってくれば大丈夫です。その同じ URL を Hermes の設定の base_url に使ってください。

ローカルのモデルのトラブルシューティング

ここに挙げる問題は、Hermes と組み合わせたときにすべてのローカルの推論サーバーに関わります。

WSL2 から Windows 側のモデルのサーバーへ "Connection refused" になる

Hermes を WSL2 の中で、モデルのサーバーを Windows のホストで動かしている場合、WSL2 の既定の NAT ネットワークでは http://localhost:<port> は通じません。直し方は上の WSL2 のネットワークを参照してください。

ツール呼び出しが実行されずテキストとして出てくる

モデルが実際にツールを呼ばず、{"name": "web_search", "arguments": {...}} のようなものをメッセージとして出力します。

原因: サーバー側でツール呼び出しが有効になっていないか、そのサーバーのツール呼び出しの実装ではそのモデルが対応していません。

モデルが文脈を忘れる・支離滅裂な応答をする

原因: コンテキストが小さすぎます。会話がコンテキストの上限を超えると、たいていのサーバーは古いメッセージを黙って捨てます。Hermes のシステムプロンプトとツールのスキーマだけで 4k〜8k トークンを使うことがあります。

調べ方:

# Check what Hermes thinks the context is
# Look at startup line: "Context limit: X tokens"

# Check your server's actual context
# Ollama: ollama ps (CONTEXT column)
# llama.cpp: curl http://localhost:8080/props | jq '.default_generation_settings.n_ctx'
# vLLM: check --max-model-len in startup args

直し方: エージェント用途では、コンテキストを最低 64,000 トークンに設定します。具体的なフラグは、上の各サーバーの節を参照してください。

起動時に "Context limit: 2048 tokens" と出る

Hermes はサーバーの /v1/models エンドポイントからコンテキスト長を自動で判定します。サーバーが小さな値を報告する（あるいはまったく報告しない）場合、Hermes はモデルが宣言している上限を使いますが、それが間違っていることがあります。

直し方: config.yaml で明示します。

model:
  default: your-model
  provider: custom
  base_url: http://localhost:11434/v1
  context_length: 64000

応答が文の途中で切れる

考えられる原因:

1. サーバー側の出力上限（max_tokens）が小さい — SGLang の既定は応答あたり 128 トークンです。サーバーで --default-max-tokens を設定するか、config.yaml の model.max_tokens で Hermes 側を設定してください。なお max_tokens が決めるのは応答の長さだけで、会話の履歴をどれだけ長く保てるか（そちらは context_length）とは無関係です。
2. コンテキストの枯渇 — モデルがコンテキストを使い切りました。model.context_length を増やすか、Hermes のコンテキスト圧縮を有効にしてください。

LiteLLM Proxy — 複数プロバイダーのゲートウェイ

LiteLLM は、100 以上の LLM プロバイダーを 1 つの API の裏にまとめる OpenAI 互換のプロキシです。向いている用途は、設定を変えずにプロバイダーを切り替えること、負荷分散、フォールバックの連鎖、予算の管理です。

# Install and start
pip install "litellm[proxy]"
litellm --model anthropic/claude-sonnet-4 --port 4000

# Or with a config file for multiple models:
litellm --config litellm_config.yaml --port 4000

そのうえで hermes model → Custom endpoint → http://localhost:4000/v1 と設定します。

フォールバック付きの litellm_config.yaml の例:

model_list:
  - model_name: "best"
    litellm_params:
      model: anthropic/claude-sonnet-4
      api_key: sk-ant-...
  - model_name: "best"
    litellm_params:
      model: openai/gpt-4o
      api_key: sk-...
router_settings:
  routing_strategy: "latency-based-routing"

ClawRouter — 費用を抑える振り分け

BlockRunAI による ClawRouter は、問い合わせの複雑さに応じてモデルを自動で選ぶ、ローカルの振り分けプロキシです。リクエストを 14 の観点で分類し、その仕事をこなせる中でいちばん安いモデルへ回します。支払いは USDC の暗号通貨で行い、API キーは使いません。

# Install and start
npx @blockrun/clawrouter    # Starts on port 8402

そのうえで hermes model → Custom endpoint → http://localhost:8402/v1 → モデル名 blockrun/auto と設定します。

振り分けのプロファイル:

そのほかの互換プロバイダー

OpenAI 互換の API を持つサービスなら何でも動きます。よく使われるものをいくつか挙げます。

いずれも hermes model → Custom endpoint から、または config.yaml で設定できます。

model:
  default: meta-llama/Llama-3.1-70B-Instruct-Turbo
  provider: custom
  base_url: https://api.together.xyz/v1
  api_key: your-together-key

コンテキスト長の判定

Hermes は、そのモデルとプロバイダーに合った正しいコンテキストを判定するために、複数の情報源をたどる連鎖を使います。

1. 設定による上書き — config.yaml の model.context_length（最優先）
2. 独自プロバイダーのモデル別設定 — providers.<name>.models.<id>.context_length
3. 保存されたキャッシュ — 以前に調べた値（再起動しても残ります）
4. エンドポイントの /models — サーバーの API に問い合わせます（ローカル / 独自エンドポイント）
5. Anthropic の /v1/models — Anthropic の API に max_input_tokens を問い合わせます（API キーの利用者のみ）
6. OpenRouter の API — OpenRouter が持つ最新のモデルのメタデータ
7. Nous Portal — Nous のモデル ID を接尾辞で OpenRouter のメタデータと突き合わせます
8. models.dev — 有志が管理する登録簿で、100 以上のプロバイダーにまたがる 3800 以上のモデルについて、プロバイダーごとのコンテキスト長を持っています
9. 既定値 — モデルの系統ごとの大まかな型（既定は 128K）

たいていの構成では、これで何もしなくても動きます。この仕組みはプロバイダーを見ているので、同じモデルでも提供元によってコンテキストの上限が変わります（たとえば claude-opus-4.6 は Anthropic 直では 1M ですが、GitHub Copilot では 128K です）。

コンテキスト長を明示するには、モデルの設定に context_length を足します。

model:
  default: "qwen3.5:9b"
  base_url: "http://localhost:8080/v1"
  context_length: 131072  # tokens

独自エンドポイントでは、モデルごとにコンテキスト長を設定することもできます。

providers:
  my-local-llm:
    api: "http://localhost:11434/v1"
    models:
      qwen3.5:27b:
        context_length: 64000
      deepseek-r1:70b:
        context_length: 65536

独自エンドポイントを設定するとき、hermes model はコンテキスト長を尋ねます。自動判定に任せるなら空のままにしてください。

名前付きの独自プロバイダー

複数の独自エンドポイントを使い分けている場合（たとえばローカルの開発サーバーとリモートの GPU サーバー）、config.yaml の providers: の辞書に、プロバイダー名を鍵として名前付きの独自プロバイダーを定義できます。

providers:
  local:
    api: http://localhost:8080/v1
    # api_key omitted — Hermes uses "no-key-required" for keyless local servers
  work:
    api: https://gpu-server.internal.corp/v1
    key_env: CORP_API_KEY
    transport: chat_completions   # set explicitly by `hermes model` → Custom Endpoint wizard; auto-detection still happens as a fallback
  anthropic-proxy:
    api: https://proxy.example.com/anthropic
    key_env: ANTHROPIC_PROXY_KEY
    transport: anthropic_messages  # for Anthropic-compatible proxies

各エントリーが受け付けるのは、api（エンドポイントのベース URL。base_url/url も別名として使えます）、name（任意の表示名。既定は辞書の鍵）、key_env またはインラインの api_key または key_cmd（下記参照）、transport（chat_completions / anthropic_messages / codex_responses）、default_model、models、context_length、discover_models、extra_body、extra_headers、ssl_ca_cert / ssl_verify、そしてエントリーを削除せずに隠す enabled: false です。

コマンドで発行する認証情報（key_cmd）

企業のゲートウェイは、固定の API キーではなく短命のベアラートークンを発行することがよくあります（SSO/OIDC の仲介、クラウドの IAM、社内の認証プロキシなど）。そのため .env に写したトークンはセッションの途中で古くなり、リクエストが 401 を返しはじめます。key_cmd はトークンを*表示する*コマンドを指定するもので、Hermes はそれを実行し、期限の少し手前まで結果を保持します。おかげで長いセッションでも、再起動なしに動き続けます。

providers:
  my-gateway:
    base_url: "https://gateway.internal.example.com/v1"
    api_mode: chat_completions
    key_cmd: "my-auth-cli print-token --profile prod"

トークンを表示するものなら何でも使えます。databricks auth token、gcloud auth print-access-token、az account get-access-token、vault read、Claude Code 方式の apiKeyHelper のスクリプトなどです。

コマンドは標準出力にトークンだけを表示する必要があります。素のままでも、access_token の項目を持つ JSON でもかまいません（expires_in は尊重されます。絶対時刻の expiry/expiresOn の ISO 形式も同様です）。複数行の出力は、推測せずに拒否されます。期限が示されない場合は、決められた間隔でトークンを発行し直します。

優先順位: 明示した --api-key のフラグが依然として最優先です。それがなければ、同じエントリーの中では key_cmd が固定の api_key/key_env より優先されます。発行された認証情報は、メインのエージェントのターンにも、補助タスク（タイトル生成、圧縮、画像認識、埋め込み）にも同じように使われます。

secrets.command と混同しないでください。あちらは起動時に一度だけ補助のコマンドを実行して、プロセス全体に環境変数を用意するものです。多数の秘密をまとめて返す保管庫やキーチェーンの補助にはそちらを、あるプロバイダーの認証情報をセッションの*最中に*発行し直す必要があるときには key_cmd を使ってください。

OpenAI 互換のエンドポイントの中には、そのプロバイダー固有のリクエストの項目を必要とするものがあります。該当する独自プロバイダーに extra_body のマップを足すと、Hermes はそのエンドポイントへの chat-completions のリクエストごとにそれを混ぜ込みます。

providers:
  gemma-local:
    api: http://localhost:8080/v1
    default_model: google/gemma-4-31b-it
    extra_body:
      enable_thinking: true
      reasoning_effort: high

サーバーのドキュメントに書かれた形を使ってください。たとえば vLLM の Gemma の構成や一部の NVIDIA NIM のエンドポイントは、enable_thinking を extra_body の直下ではなく chat_template_kwargs の下に置くことを期待します。

extra_body:
  chat_template_kwargs:
    enable_thinking: true

vLLM で提供する Qwen の推論モデルでは、推論の解析器が生成されたテキストをすべて推論の項目へ振り分けてアシスタントの content を空にしてしまうとき、同じ形で思考を無効にできます。

extra_body:
  chat_template_kwargs:
    enable_thinking: false

hermes model → Custom Endpoint のウィザードは、API のモードを明示的に尋ねて、その答えを config.yaml に保存するようになりました（プロバイダーのエントリーの transport として保存されます）。この項目を空のままにした場合は、URL からの自動判定（たとえば /anthropic を含むパス → anthropic_messages）が引き続き受け皿として働きます。

独自プロバイダーのモデルでネイティブに画像を扱う。 独自エンドポイントが、models.dev に載っていない画像対応のモデルを提供している場合は、model.supports_vision: true を設定してください。そうすると Hermes は、添付された画像を vision_analyze で前処理せず、ネイティブに（image_url の部品として）送ります。つまみはこれ 1 つで、agent.image_input_mode: native を併せて設定する必要はありません。

model:
  provider: custom
  base_url: http://localhost:8080/v1
  default: qwen3.6-35b-a3b
  supports_vision: true   # send images natively; otherwise vision_analyze pre-describes them

同じキーは名前付きプロバイダーのモデル単位（providers.<name>.models.<id>.supports_vision）でも有効で、YAML の標準的な真偽値（true/false/yes/no/on/off/1/0）を受け付けます。

セッションの途中で切り替えるには、3 つ組の書き方を使います。

/model custom:local:qwen-2.5       # Use the "local" endpoint with qwen-2.5
/model custom:work:llama3-70b      # Use the "work" endpoint with llama3-70b
/model custom:anthropic-proxy:claude-sonnet-4  # Use the proxy

名前付きの独自プロバイダーは、対話式の hermes model のメニューからも選べます。

実例集: Together AI、Groq、Perplexity

そのほかの互換プロバイダーに挙げたクラウドのプロバイダーは、いずれも OpenAI の REST の方言を話すので、providers: の辞書の下で同じように設定できます。実際に動く 3 つのレシピを示します。どれも ~/.hermes/config.yaml に書き、対応する API キーは ~/.hermes/.env に置きます。

Together AI

公開重みのモデル（Llama、MiniMax、Gemma、DeepSeek、Qwen）を、本家の API よりかなり安い価格で提供します。複数のモデルを使い分ける構成の、無難な既定です。

# ~/.hermes/config.yaml
providers:
  together:
    api: https://api.together.xyz/v1
    key_env: TOGETHER_API_KEY
    # transport: chat_completions  # default — no need to set

model:
  default: MiniMaxAI/MiniMax-M2.7   # or any model from together.ai/models
  provider: custom:together

# ~/.hermes/.env
TOGETHER_API_KEY=your-together-key

セッションの途中でモデルを切り替えます。

/model custom:together:meta-llama/Llama-3.3-70B-Instruct-Turbo
/model custom:together:google/gemma-4-31b-it
/model custom:together:deepseek-ai/DeepSeek-V3

Together の /v1/models エンドポイントは動くので、hermes model が使えるモデルを自動で見つけられます。

Groq

極めて高速な推論です（Llama-3.3-70B でおよそ 500 tok/s）。カタログは小さいものの、待ち時間が効いてくる対話的な用途に強みがあります。

# ~/.hermes/config.yaml
providers:
  groq:
    api: https://api.groq.com/openai/v1
    key_env: GROQ_API_KEY

model:
  default: llama-3.3-70b-versatile
  provider: custom:groq

# ~/.hermes/.env
GROQ_API_KEY=your-groq-key

Perplexity

その場で Web を検索し、出典を自動で付けるモデルが欲しいときに便利です。使えるモデルについては厳しいので、最新の一覧は perplexity.ai/settings/api で確認してください。

# ~/.hermes/config.yaml
providers:
  perplexity:
    api: https://api.perplexity.ai
    key_env: PERPLEXITY_API_KEY

model:
  default: sonar
  provider: custom:perplexity

# ~/.hermes/.env
PERPLEXITY_API_KEY=your-perplexity-key

1 つの設定に複数のプロバイダーを置く

3 つのレシピは組み合わせられます。全部まとめて書いておき、/model custom:<name>:<model> でターンごとに切り替えられます。

providers:
  together:
    api: https://api.together.xyz/v1
    key_env: TOGETHER_API_KEY
  groq:
    api: https://api.groq.com/openai/v1
    key_env: GROQ_API_KEY
  perplexity:
    api: https://api.perplexity.ai
    key_env: PERPLEXITY_API_KEY

model:
  default: MiniMaxAI/MiniMax-M2.7
  provider: custom:together      # boot to Together; switch freely after

どの構成を選ぶか

任意の API キー

Firecrawl を自前で立てる

既定では、Hermes は Web の検索とスクレイピングに Firecrawl のクラウド API を使います。Firecrawl をローカルで動かしたい場合は、代わりに自前のインスタンスへ Hermes を向けられます。設定の手順は Firecrawl の SELF_HOST.md を参照してください。

得られるもの: API キーが不要、レート制限なし、ページ単位の費用なし、データを完全に自分で持てること。

失うもの: クラウド版は、高度なボット対策の回避（Cloudflare、CAPTCHA、IP の切り替え）に Firecrawl 独自の "Fire-engine" を使います。自前で立てた場合は基本的な取得と Playwright だけなので、保護されたサイトでは失敗することがあります。検索も Google ではなく DuckDuckGo を使います。

設定:

1. Firecrawl の Docker 一式を clone して起動します（API、Playwright、Redis、RabbitMQ、PostgreSQL の 5 コンテナ。おおよそ 4〜8 GB の RAM が必要です）。

git clone https://github.com/firecrawl/firecrawl
cd firecrawl
# In .env, set: USE_DB_AUTHENTICATION=false, HOST=0.0.0.0, PORT=3002
docker compose up -d

1. Hermes を自分のインスタンスへ向けます（API キーは不要です）。

hermes config set FIRECRAWL_API_URL http://localhost:3002

自前のインスタンスで認証を有効にしている場合は、FIRECRAWL_API_KEY と FIRECRAWL_API_URL の両方を設定してもかまいません。

OpenRouter のプロバイダー振り分け

OpenRouter を使っているときは、リクエストをプロバイダー間でどう振り分けるかを制御できます。~/.hermes/config.yaml に provider_routing のセクションを足します。

provider_routing:
  sort: "throughput"          # "price" (default), "throughput", or "latency"
  # only: ["anthropic"]      # Only use these providers
  # ignore: ["deepinfra"]    # Skip these providers
  # order: ["anthropic", "google"]  # Try providers in this order
  # require_parameters: true  # Only use providers that support all request params
  # data_collection: "deny"   # Exclude providers that may store/train on data

近道: モデル名の末尾に :nitro を付けると処理量で並べ替え（たとえば anthropic/claude-sonnet-4:nitro）、:floor を付けると価格で並べ替えます。

OpenRouter の Pareto Code ルーター

OpenRouter は openrouter/pareto-code という試験的なコーディング向けモデルのルーターを提供しています。コーディングの品質の基準（Artificial Analysis の順位付けによる）を満たす中でいちばん安いモデルへ、リクエストを自動で回します。このモデルを選び、~/.hermes/config.yaml の min_coding_score のつまみを調整してください。

model:
  provider: openrouter
  model: openrouter/pareto-code

openrouter:
  min_coding_score: 0.65   # 0.0–1.0; higher = stronger (more expensive) coders. Default 0.65.

補足:

• min_coding_score が送られるのは、model.model が openrouter/pareto-code のときだけです。それ以外のモデルでは、この値は何もしません。
• 空文字列にする（またはその行を消す）と、OpenRouter が使える中でいちばん強いコーダーを選びます。plugins のブロックを省いたときの、記載されている挙動です。
• 同じ日であればスコアごとの選択は決まっていますが、実際に選ばれるモデルは、新しいモデルの登場やベンチマークの更新でパレート境界が動くにつれて変わり得ます。
• ルーターの挙動の全体は OpenRouter の Pareto Router のドキュメントを参照してください。
• メインのエージェントではなく特定の補助タスク（圧縮、画像認識など）で Pareto Code ルーターを使いたい場合は、そのタスクの下に extra_body.plugins を設定します。補助モデル → 補助タスクでの OpenRouter の振り分けと Pareto Code を参照してください。

フォールバックプロバイダー

メインのモデルが失敗したとき（レート制限、サーバーエラー、認証失敗）に Hermes が順に試す、控えのプロバイダーの連鎖を設定します。正典の形は、トップレベルの fallback_providers: のリストです。

fallback_providers:
  - provider: openrouter
    model: anthropic/claude-sonnet-4
  - provider: anthropic
    model: claude-sonnet-4
    # base_url: http://localhost:8000/v1    # optional, for custom endpoints
    # api_mode: chat_completions           # optional override

控えを 1 組だけ書く古い fallback_model: の辞書も、後方互換のために受け付けられます。

fallback_model:
  provider: openrouter
  model: anthropic/claude-sonnet-4

働いたとき、フォールバックは会話を失うことなくセッションの途中でモデルとプロバイダーを差し替えます。連鎖はエントリーを 1 つずつ試し、作動はセッションにつき 1 回だけです。

対応するプロバイダー: openrouter、nous、novita、openai-codex、copilot、copilot-acp、anthropic、gemini、qwen-oauth、huggingface、zai、kimi-coding、kimi-coding-cn、minimax、minimax-cn、minimax-oauth、deepseek、nvidia、xai、xai-oauth、ollama-cloud、bedrock、ai-gateway、azure-foundry、opencode-zen、opencode-go、commandcode、commandcode-anthropic、kilocode、xiaomi、arcee、gmi、actual、stepfun、lmstudio、alibaba、alibaba-coding-plan、tencent-tokenhub、tencent-tokenplan、nebius-token-factory、router、custom。

あわせて読む

• 設定 — 全般の設定（ディレクトリ構成、設定の優先順位、端末のバックエンド、メモリ、圧縮など）
• 環境変数 — すべての環境変数の一覧