Hermes Agent Wiki 非公式・日本語wiki

画像生成プロバイダのプラグインを作る

目次

画像生成プロバイダのプラグインは、image_generate ツールの呼び出しをすべて受け持つバックエンドを登録します。DALL·E、gpt-image、Grok、Flux、Imagen、Stable Diffusion、fal、Replicate、手元の ComfyUI の構成など、何でもかまいません。組み込みのプロバイダ(OpenAI、OpenAI-Codex、xAI、FAL、Krea、DeepInfra、OpenRouter、Meta Model API)もすべてプラグインの形で入っています。新しく足すのも、同梱のものを差し替えるのも、plugins/image_gen/<name>/ にディレクトリを置くだけです。

見つけ方の仕組み

Hermes は画像生成のバックエンドを次の3か所から探します。

  1. 同梱 — <repo>/plugins/image_gen/<name>/(kind: backend として自動で読み込まれ、いつでも使えます)
  2. 利用者 — ~/.hermes/plugins/image_gen/<name>/(plugins.enabled で明示的に有効にします)
  3. pip — hermes_agent.plugins のエントリポイントを宣言しているパッケージ

各プラグインの register(ctx) 関数が ctx.register_image_gen_provider(...) を呼ぶと、agent/image_gen_registry.py の登録簿に載ります。どれを使うかは config.yaml の image_gen.provider で決まり、hermes tools が選ぶ手順を案内してくれます。

image_generate ツールの外側は、登録簿に「いま使うプロバイダ」を尋ねてそこへ渡します。プロバイダが1つも登録されていない場合は、hermes tools を案内する分かりやすいエラーを返します。

ディレクトリの構成

plugins/image_gen/my-backend/
├── __init__.py      # ImageGenProvider subclass + register()
└── plugin.yaml      # Manifest with kind: backend

同梱のプラグインならこれで完成です。~/.hermes/plugins/image_gen/<name>/ に置く利用者のプラグインは、config.yaml の plugins.enabled に足す(または hermes plugins enable <name> を実行する)必要があります。

ImageGenProvider の基底クラス

agent.image_gen_provider.ImageGenProvider を継承します。必ず用意するのは name プロパティと generate() メソッドだけで、それ以外にはちょうどよい既定値が入っています。

# plugins/image_gen/my-backend/__init__.py
from typing import Any, Dict, List, Optional

from agent.image_gen_provider import (
    DEFAULT_ASPECT_RATIO,
    ImageGenProvider,
    error_response,
    normalize_reference_images,
    resolve_aspect_ratio,
    save_b64_image,
    success_response,
)

class MyBackendImageGenProvider(ImageGenProvider):
    @property
    def name(self) -> str:
        # Stable id used in image_gen.provider config. Lowercase, no spaces.
        return "my-backend"

    @property
    def display_name(self) -> str:
        # Human label shown in `hermes tools`. Defaults to name.title() if omitted.
        return "My Backend"

    def is_available(self) -> bool:
        # Return False if credentials or deps are missing.
        # The tool's availability gate calls this before dispatch.
        if not os.environ.get("MY_BACKEND_API_KEY"):
            return False
        try:
            import my_backend_sdk  # noqa: F401
        except ImportError:
            return False
        return True

    def list_models(self) -> List[Dict[str, Any]]:
        # Catalog shown in `hermes tools` model picker.
        return [
            {
                "id": "my-model-fast",
                "display": "My Model (Fast)",
                "speed": "~5s",
                "strengths": "Quick iteration",
                "price": "$0.01/image",
            },
            {
                "id": "my-model-hq",
                "display": "My Model (HQ)",
                "speed": "~30s",
                "strengths": "Highest fidelity",
                "price": "$0.04/image",
            },
        ]

    def default_model(self) -> Optional[str]:
        return "my-model-fast"

    def get_setup_schema(self) -> Dict[str, Any]:
        # Metadata for the `hermes tools` picker — keys to prompt for at setup.
        return {
            "name": "My Backend",
            "badge": "paid",        # optional; shown as a short tag in the picker
            "tag": "One-line description shown under the name",
            "env_vars": [
                {
                    "key": "MY_BACKEND_API_KEY",
                    "prompt": "My Backend API key",
                    "url": "https://my-backend.example.com/api-keys",
                },
            ],
        }

    def capabilities(self) -> Dict[str, Any]:
        # Declare whether this backend supports image-to-image / editing.
        # The tool layer surfaces this in the dynamic schema so the model
        # knows when `image_url` is honored. Default (if you omit this) is
        # text-only: {"modalities": ["text"], "max_reference_images": 0}.
        # Optional keys: "supports_upscale" (bool) adds an `upscale` param, and
        # "creative_controls" lists the controls you honor from `creativity`,
        # `intensity`, `complexity`, `movement`. Only declared controls appear
        # in the schema and reach generate() as kwargs. "source_image_role": "style"
        # tells the model that image inputs set the look and are not edited.
        return {"modalities": ["text", "image"], "max_reference_images": 4}

    def generate(
        self,
        prompt: str,
        aspect_ratio: str = DEFAULT_ASPECT_RATIO,
        *,
        image_url: Optional[str] = None,
        reference_image_urls: Optional[List[str]] = None,
        **kwargs: Any,
    ) -> Dict[str, Any]:
        prompt = (prompt or "").strip()
        aspect_ratio = resolve_aspect_ratio(aspect_ratio)

        if not prompt:
            return error_response(
                error="Prompt is required",
                error_type="invalid_input",
                provider=self.name,
                prompt="",
                aspect_ratio=aspect_ratio,
            )

        # Routing: if image_url (or reference_image_urls) is set, the call is
        # an image-to-image / edit request; otherwise text-to-image. Report
        # which path you took via the `modality` field of success_response.
        sources = []
        if image_url:
            sources.append(image_url)
        sources.extend(normalize_reference_images(reference_image_urls) or [])
        modality = "image" if sources else "text"

        # Model selection precedence: env var → config → default. The helper
        # _resolve_model() in the built-in openai plugin is a good reference.
        model_id = kwargs.get("model") or self.default_model() or "my-model-fast"

        try:
            import my_backend_sdk
            client = my_backend_sdk.Client(api_key=os.environ["MY_BACKEND_API_KEY"])
            if modality == "image":
                result = client.edit(
                    prompt=prompt,
                    model=model_id,
                    image_urls=sources,
                )
            else:
                result = client.generate(
                    prompt=prompt,
                    model=model_id,
                    aspect_ratio=aspect_ratio,
                )

            # Two shapes supported:
            #   - URL string: return it as `image`
            #   - base64 data: save under $HERMES_HOME/cache/images/ via save_b64_image()
            if result.get("image_b64"):
                path = save_b64_image(
                    result["image_b64"],
                    prefix=self.name,
                    extension="png",
                )
                image = str(path)
            else:
                image = result["image_url"]

            return success_response(
                image=image,
                model=model_id,
                prompt=prompt,
                aspect_ratio=aspect_ratio,
                provider=self.name,
                modality=modality,
            )
        except Exception as exc:
            return error_response(
                error=str(exc),
                error_type=type(exc).__name__,
                provider=self.name,
                model=model_id,
                prompt=prompt,
                aspect_ratio=aspect_ratio,
            )

def register(ctx) -> None:
    """Plugin entry point — called once at load time."""
    ctx.register_image_gen_provider(MyBackendImageGenProvider())

plugin.yaml

name: my-backend
version: 1.0.0
description: My image backend — text-to-image via My Backend SDK
author: Your Name
kind: backend
requires_env:
  - MY_BACKEND_API_KEY

プラグインを画像生成の登録の経路へ振り分けているのが kind: backend です。requires_env は hermes plugins install の途中で入力を促されます。

基底クラスの一覧

取り決めの全文は agent/image_gen_provider.py にあります。よく差し替えることになるものは次のとおりです。

メンバー 必須 既定値 役割
name ✅ — image_gen.provider の設定で使う変わらない id
display_name — name.title() hermes tools に表示される名前
is_available() — True 資格情報や依存が足りないときの入口の判定
list_models() — [] hermes tools のモデル選択画面に出す一覧
default_model() — list_models() の先頭 モデルが設定されていないときの受け皿
get_setup_schema() — 最小限 選択画面の情報と、環境変数の入力の案内
generate(prompt, aspect_ratio, **kwargs) ✅ — 実際の呼び出し

戻り値の形

generate() は success_response() または error_response() で作った辞書を返す必要があります。どちらも agent/image_gen_provider.py にあります。

成功したとき:

success_response(
    image=<url-or-absolute-path>,
    model=<model-id>,
    prompt=<echoed-prompt>,
    aspect_ratio="landscape" | "square" | "portrait",
    provider=<your-provider-name>,
    extra={...},  # optional backend-specific fields
)

失敗したとき:

error_response(
    error="human-readable message",
    error_type="provider_error" | "invalid_input" | "<exception class name>",
    provider=<your-provider-name>,
    model=<model-id>,
    prompt=<prompt>,
    aspect_ratio=<resolved aspect>,
)

ツールの外側はこの辞書を JSON にして LLM へ渡します。エラーもツールの結果としてそのまま渡され、それを利用者にどう説明するかは LLM が決めます。

base64 と URL のどちらで返るか

画像の URL を返すバックエンド(fal、Replicate)もあれば、base64 のデータを返すもの(OpenAI の gpt-image-2)もあります。base64 の場合は save_b64_image() を使ってください。$HERMES_HOME/cache/images/<prefix>_<timestamp>_<uuid>.<ext> に書き出し、絶対パスの Path を返します。それを(str にして)success_response() の image= に渡します。ゲートウェイからの配信(Telegram の写真の吹き出し、Discord の添付)は URL と絶対パスのどちらも扱えます。

利用者による上書き

同梱のものと同じ name プロパティを持つ利用者のプラグインを ~/.hermes/plugins/image_gen/<name>/ に置き、hermes plugins enable <name> で有効にします。登録簿は最後に書いたものが勝つので、自分の版が組み込みを置き換えます。openai のプラグインを社内のプロキシへ向けたいときや、モデルの一覧を独自のものに差し替えたいときに便利です。

試す

export HERMES_HOME=$HOME/.hermes/cache/scratch/hermes-imggen-test
mkdir -p $HERMES_HOME/plugins/image_gen/my-backend
# …copy __init__.py + plugin.yaml into that dir…

export MY_BACKEND_API_KEY=your-test-key
hermes plugins enable my-backend

# Pick it as the active provider
echo "image_gen:" >> $HERMES_HOME/config.yaml
echo "  provider: my-backend" >> $HERMES_HOME/config.yaml

# Exercise it
hermes -z "Generate an image of a corgi in a spacesuit"

画面から操作する場合は hermes tools →「Image Generation」→ my-backend を選ぶ → 求められたら API キーを入力、という流れです。

実装の見本

  • plugins/image_gen/openai/__init__.py — gpt-image-2 を low / medium / high の3段階に分け、quality の指定だけを変えて1つの API モデルを共有する3つの仮想モデル ID として見せています。1つのバックエンドの中で段階を分ける書き方と、config.yaml の優先順位の連なりの良い例です。
  • plugins/image_gen/xai/__init__.py — xAI 経由の Grok Imagine。形はだいぶ違います(URL で返り、一覧も単純です)。
  • plugins/image_gen/openai-codex/__init__.py — カタログは openai と同じですが、ChatGPT/Codex の OAuth トークンで認証し、素の httpx で Codex バックエンド本来の images/generations / images/edits エンドポイントへ送信します。参照元のリモート画像をクライアント側で取得して data URL として埋め込む例、そしてバックエンドが返したメタデータをリクエストとは分けて報告する例として参考になります。

pip で配る

# pyproject.toml
[project.entry-points."hermes_agent.plugins"]
my-backend-imggen = "my_backend_imggen_package"

my_backend_imggen_package は最上位に register 関数を持つ必要があります。設定の全体は、プラグイン全般の案内にある pip で配る を見てください。