ブラウザの自動操作
目次
- 概要
- 準備
- Browser Use のクラウドモード
- Browserbase のクラウドモード
- Browser Use モード(既定)
- Firecrawl のクラウドモード
- 混ぜて振り分ける: 公開の URL はクラウド、LAN や localhost は手元
- 本物のプロファイルで見て回る(自分のログインを使う)
- Camofox のローカルモード
- Lightpanda のローカルエンジン
- CDP で手元の Chromium 系ブラウザにつなぐ(/browser connect)
- WSL2 と Windows の Chrome: /browser connect より MCP を選ぶ
- ローカルブラウザモード
- 任意の環境変数
- agent-browser CLI を入れる
- 使える道具
- browser_navigate
- browser_snapshot
- browser_click
- browser_type
- browser_scroll
- browser_press
- browser_back
- browser_get_images
- browser_vision
- browser_console
- browser_cdp
- browser_dialog
- 実際の例
- ウェブのフォームを埋める
- 動きのある中身を調べる
- セッションの録画
- 画面ありモード(見えるブラウザの窓)
- 隠密の働き
- セッションの扱い
- できないこと
Hermes Agent には、いくつもの裏方を選べるブラウザ自動操作の道具一式が入っています。
- Browser Use のクラウドモード — Browser Use を通じて、隠密性、住宅用のプロキシ、CAPTCHA の突破、使い回せるブラウザのプロファイルを備えた、お任せの Chromium を使います
- Browserbase のクラウドモード — Browserbase を通じて、bot 対策への備えを持つもう1つのクラウドブラウザのプロバイダを使います
- Browser Use モード — Browser Use CLI 3.0 を通じて。手元の Chrome と Browser Use のクラウドブラウザに対する既定のブラウザドライバです
- Firecrawl のクラウドモード — Firecrawl を通じて、情報の取り出しが組み込まれたクラウドのブラウザを使います
- Camofox のローカルモード — Camofox を通じて、手元で検知を避けながら見て回ります(Firefox をもとにした指紋のごまかし)
- Lightpanda のローカルエンジン — Lightpanda を通じて。機械のために Zig で一から書かれた画面なしのブラウザで、すぐ立ち上がり、Chrome より 16 倍メモリが少なく 9 倍速く動きます。Browser Use モードで動き(Hermes が起動するので Chromium も Node も要りません)、組み込みの道具でも動きます(まだ対応していない操作は自動で Chrome に回されます)
- 手元の Chromium 系への CDP 接続 —
/browser connectを使って、自分の Chrome、Brave、Chromium、Edge にブラウザの道具をつなぎます - ローカルブラウザモード —
agent-browserの CLI と、手元に入れた Chromium を使います
どのモードでも、エージェントはサイトを見て回り、ページの要素を操作し、フォームを埋め、情報を取り出せます。
概要
ページはアクセシビリティツリー(文字での写し取り)として表されるので、LLM のエージェントにはうってつけです。操作できる要素には(@e1、@e2 のような)参照の ID が付き、エージェントはこれを使ってクリックしたり入力したりします。
主なできること。
- いくつものプロバイダでのクラウド実行 — Browser Use、Browserbase、Firecrawl。手元のブラウザは要りません
- 手元の Chromium 系との連携 — 動いている自分の Chrome、Brave、Chromium、Edge に CDP でつなぎ、自分の手で見て回れます
- クラウドでの bot 対策 — Browser Use Cloud には隠密性、住宅用のプロキシ、CAPTCHA の突破が入っています
- クラウドに残るプロファイル — Browser Use Cloud なら、Cookie、localStorage、保存したパスワードをセッションをまたいで使い回せます
- セッションの隔離 — 仕事ごとに専用のブラウザのセッションが割り当てられます
- 自動での片づけ — 動きのないセッションは時間が経つと閉じられます
- 見た目の解析 — スクリーンショットと AI の解析で、目で見た内容を理解します
準備
Browser Use のクラウドモード
Browser Use をクラウドブラウザのプロバイダとして使うには、次を足します。
# Add to ~/.hermes/.env
BROWSER_USE_API_KEY=***API キーは browser-use.com で取れます。
Browser Use Cloud は、隠密性と住宅用のプロキシを既定で有効にしたお任せの Chromium を動かし、CAPTCHA の突破も備え、Cookie・localStorage・保存したパスワードのための残るプロファイルにも対応しています。
Browserbase のクラウドモード
Browserbase にお任せするクラウドのブラウザを使うには、次を足します。
# Add to ~/.hermes/.env
BROWSERBASE_API_KEY=***
BROWSERBASE_PROJECT_ID=your-project-id-here資格情報は browserbase.com で取れます。
Browser Use モード(既定)
Browser Use モードは、組み込みのブラウザの道具の代わりに Browser Use CLI 3.0 を使います。エージェントはブラウザの中で Python を書いて動かし、クリック、入力、ドラッグ、情報の取り出し、ページとのやり取りをします。
これが既定のブラウザモードです。 browser.backend が設定されていないとき、エージェントには browser_exec という道具が1つ渡されます。その中で動くのは browser-harness(Browser Use CLI はこれを薄く包んだものです)で、Hermes の通常の Python の依存関係です。そのため、Desktop アプリを含むどのインストールにも最初から入っていて、別にダウンロードする必要はありません。万一 Hermes の環境から欠けていたときは、Hermes が組み込みのブラウザの道具に戻し、hermes update で元に戻ります。
このモードはドライバで、設定したブラウザの裏方と組み合わせて動きます。Hermes 自身の画面なしの Chromium、Nous の購読で使えるクラウドのブラウザ、Browserbase、Firecrawl、Browser Use のクラウドブラウザ — hermes tools → Browser Automation で選んだブラウザの出どころなら、どれでも動かします。唯一の例外は Camofox で、こちらは仕組みがつなぎに行ける CDP の口を持ちません。Camofox の設定では、自動的に組み込みのブラウザの道具のままになります。
手元で見て回るときに使うのは同梱の Chromium で、こちらの Chrome ではありません。 クラウドのプロバイダも /browser connect の接続先も設定していないときは、Hermes は組み込みの道具が使うのと同じ Chromium を立ち上げ(hermes tools → Browser Automation で入れて、agent-browser 経由で動かします)、そこへ Browser Use の CLI を向けます。入れてある Chrome に手が触れることはないので、chrome://inspect でリモートデバッグを有効にする必要も、「リモートデバッグを許可しますか」の確認が出ることもありません。Chrome がまったく入っていない画面なしの機械でも動きます。このブラウザは組み込みの一式と寿命を共にし、browser.inactivity_timeout の時間が過ぎたとき、終了するとき、迷子の掃除のときに閉じられます。自分がログイン済みのブラウザを動かしたいときは、/browser connect か本物のプロファイルの切り替えを使ってください。
同時に走るセッション: browser_exec は session=<name> という引数を受け取り、どの裏方でも名前ごとにブラウザの作業を切り分けます。名前ごとに専用の仕組みの常駐(専用の IPC ソケット、ログ、状態)が付き、専用のブラウザも付きます(手元では別々の同梱 Chromium、クラウドの裏方では別々のクラウドブラウザ)。並列のサブエージェントや同時のチャットが、1つの共有された接続を奪い合うことはもうありません。session を省くと共有の既定の常駐を使います。1つずつ見て回るならこれで十分です。
これをやめて組み込みのブラウザの道具を強いるには、/browser use off を使うか、次のようにします。
# Add to ~/.hermes/config.yaml
browser:
backend: "off"(backend: "browser-use" は、モードをはっきり強いる指定として今も有効です。)
Browser Use 自身のクラウドブラウザには BROWSER_USE_API_KEY が要ります。ほかのブラウザの出どころは、今ある資格情報をそのまま使います。
Firecrawl のクラウドモード
Firecrawl をクラウドブラウザのプロバイダとして使うには、次を足します。
# Add to ~/.hermes/.env
FIRECRAWL_API_KEY=fc-***API キーは firecrawl.dev で取れます。そのうえで、Firecrawl をブラウザのプロバイダに選びます。
hermes setup tools
# → Browser Automation → Firecrawl任意の設定です。
# Self-hosted Firecrawl instance (default: https://api.firecrawl.dev)
FIRECRAWL_API_URL=http://localhost:3002
# Session TTL in seconds (default: 300)
FIRECRAWL_BROWSER_TTL=600混ぜて振り分ける: 公開の URL はクラウド、LAN や localhost は手元
クラウドのプロバイダが設定されていると、Hermes は私設・ループバック・LAN のアドレス(localhost、127.0.0.1、192.168.x.x、10.x.x.x、172.16-31.x.x、*.local、*.lan、*.internal、IPv6 のループバック ::1、リンクローカルの 169.254.x.x)に解決される URL のために、手元の Chromium の脇役を自動で立ち上げます。公開の URL は同じ会話の中でクラウドのプロバイダを使い続けます。
これで「手元で開発しているのに Browserbase を使っている」というよくある流れが解けます。プロバイダを切り替えたり SSRF の守りを外したりしなくても、エージェントは http://localhost:3000 のダッシュボードのスクリーンショットを撮り、同時に https://github.com から情報を取り出せます。クラウドのプロバイダが私設の URL を目にすることはありません。
この働きは既定で有効です。止めたい(これまでどおり、すべての URL を設定したクラウドのプロバイダに回したい)ときは、こうします。
# ~/.hermes/config.yaml
browser:
cloud_provider: browserbase
auto_local_for_private_urls: false自動の振り分けを止めると、browser.allow_private_urls: true も設定していない限り、私設の URL は "Blocked: URL targets a private or internal address" と言って断られます(この設定を入れるとクラウドのプロバイダが試みますが、Browserbase などはこちらの LAN に届かないので、たいていうまくいきません)。
必要なもの。手元の脇役は純粋なローカルモードと同じ agent-browser の CLI を使うので、これが入っている必要があります(hermes setup tools → Browser Automation が自動で入れます)。公開の URL から私設のアドレスへ、ページを開いたあとに転送されるものは今も止められます(内部への転送という抜け道で、公開の経路からこちらの LAN に届くことはできません)。
本物のプロファイルで見て回る(自分のログインを使う)
既定では、手元で見て回るときはまっさらな使い捨てのプロファイルが使われ、エージェントはどこにもログインしていません。本物のプロファイルで見て回るを有効にすると、エージェントは今あるログインと Cookie を持って*こちら自身*として見て回れます。
# ~/.hermes/config.yaml
browser:
use_real_profile: true有効にすると Hermes は、既定のブラウザで実際に使っているプロファイル(Local State → profile.last_used のもの)を、その Cookie、保存したログイン、設定ごと ~/.hermes/browser-profile/<browser>/ の管理下の写しにコピーし、その写しの上で本物のブラウザの実行ファイルを起動して、閲覧のエンジンをそこにつなぎます。(作り物の鍵束の指定を付けた同梱の Chromium ではなく)本物の実行ファイルを起動するのは、OS が暗号化した Cookie を読めるままにしておくためです。macOS では Chrome の Cookie は Keychain を通して暗号化されており、作り物の鍵束で起動すると Cookie が黙って1つ残らず落ち、ログアウトした状態で開いてしまいます。動いているブラウザのプロファイルが直接開かれることはありません。写しは別のディレクトリなので、動いているブラウザとプロファイルの錠を奪い合うこともなく、Chrome 136 以降が既定のプロファイルのディレクトリへのリモートデバッグを塞いでいることも避けられます。認証まわりのファイル(Cookie/ログイン/設定)は、新しいセッションが立ち上がるたびに本物のプロファイルから取り直されるので、自分のブラウザでしたログインがエージェントのセッションにも現れます。コピーされるのは実際に使っているプロファイルだけで、ほかの Chrome のプロファイルが写し取られることはありません。
写しのブラウザは画面なしで動きます。見えている窓もなく、焦点を奪うこともなく、裏でこちらのプロファイルを動かすので、エージェントが代わりに投稿したりフォームを埋めたり情報を取り出したりしているあいだも、こちらは仕事を続けられます。(ここでの画面なしは Chrome の*新しい*画面なしモードで、普段の Cookie の置き場を読むので、ログインはちゃんと読み込まれます。)働くさまを見ていたいなら、同じ画面ありモードの切り替えがここにも効きます。browser.headed: true(あるいは AGENT_BROWSER_HEADED=1)で、本物のプロファイルの閲覧にも見える窓が開きます。画面のない機械(サーバー、CI)では、設定にかかわらず常に画面なしで動きます。
ブラウザにプロファイルがいくつもあり(たとえば仕事用と個人用)、「最後に触ったほうのプロファイル」でエージェントの身元が決まってしまうのが困るなら、写しの出どころをはっきり留めてください。
# ~/.hermes/config.yaml
browser:
use_real_profile: true
real_profile_pin: "Profile 2" # directory name under the browser's user-data dir存在しないプロファイルのディレクトリを指す留め方をしても、黙って最後に使ったプロファイルに落ちることはありません。エージェントにはこちらのログインが入っていないまっさらなブラウザが渡され、まちがった留め先の名前を挙げたメッセージが出ます。
この切り替えを戻すと、Hermes は次にブラウザを使うときに写しの置き場(~/.hermes/browser-profile/)を消します。同意を取り下げたあとに、コピーした資格情報が居座らないようにするためです。
- 対応しているブラウザ: Chrome、Edge、Brave、Brave Origin、Chromium(OS の既定になっているもの)。Chromium 系でないもの(たとえば Firefox)が既定のときは、どのプロファイルを使うか当て推量をせず、まっさらなブラウザとはっきりしたメッセージを出します。
- どの裏方でも動きます。 手元の裏方では、切り替えを入れれば自動で効きます。クラウドのブラウザの裏方でも、エージェントは
browser_execの道具のlocalという引数で、必要なときに本物のプロファイルの手元のセッションを開けます(この切り替えが入っているときだけ、道具はその引数を見せます)。ほかはすべてクラウドの裏方が受け持ち続けます。 - 安全の位置づけ: これは同意を前提にした便利さであって、隔離の境目ではありません。エージェントが開いたページは、こちらの本物のログインとともに動きます。エージェントに自分として振る舞ってほしいときにだけ有効にしてください。既定では無効です。
- デスクトップ: Capabilities → Tools → Browser → Use My Real Browser Profile(切り替えは裏方の選択肢の上にあります)か、Settings → Config の
browserの節で切り替えます。
定期実行と無人での実行
実際のプロファイルを使うセッションなら、すでにサインインしているサイトを cronjob から操作させられます。 スナップショットは既定で画面を出さずに(ヘッドレスで)動きます。認証ファイル(Cookies、 Login Data など)は、新しいセッションを始めるたびに実際のプロファイルから同期し直します。 すでに開いているセッションはそのまま使い回すので、同期が起きるのは新しいセッションを起動したときです。保管庫に認証情報を保存していない場合、そのサイトのセッションが切れていると ログインページが表示されます。無人の定期実行はそこで止まったまま待たず、その状態を報告します。
定期実行を組む前に、次の 3 つを済ませてください。
- 切り替えをオンにします。
browser.use_real_profileの既定はfalseで、
オフのままだとジョブはサインインしていないまっさらなプロファイルで動きます(上の説明を参照)。
- ジョブにブラウザのツールセットを渡します:
cronjob(action="create", enabled_toolsets=["browser", ...], ...)。ジョブごとの 指定は、cron プラットフォームの設定より優先されます (詳しく)。
- 途中で何も入力できない前提にします。 cron、webhook、API、
hermes chat -q のセッションでは入力に答える人がいません。そのため、同期した Cookie だけでは 使えないサイト(ログインフォームや、新たに求められる 2 段階認証)では、認証アプリの鍵も含めて認証情報を前もって保存しておく必要があります。これは 認証情報の保管庫の役目で、 自分のセッションが切れたあとの実行を支えるのもこの保管庫です。
Windows での前提条件: ブラウザを完全に終了していないとスナップショットが取れません。 そのため、定期実行の前にブラウザを閉じておく必要があります。閉じていなければ、その回はサインインしていないまっさらなブラウザで動きます。Hermes が確認なしにブラウザを閉じることはありません(上の注記を参照)。
同梱の product-price-monitor スキルは、繰り返し実行する形の実例です。 セットアップ時に JSON で監視の取り決めを書き、定期実行のたびにそれを読み直して比べ、変化があれば知らせます。 ただし、この例が扱うのは定期実行の部分で、ログインは扱いません。
Camofox のローカルモード
Camofox は、Camoufox(C++ で指紋をごまかす Firefox の派生)を包んだ、自分で立てる Node.js のサーバーです。クラウドに頼らず、手元で検知を避けながら見て回れます。
# Clone the Camofox browser server first
git clone https://github.com/jo-inc/camofox-browser
cd camofox-browser
# Build and start with Docker using the default container settings
# (auto-detects arch: aarch64 on M1/M2, x86_64 on Intel)
make up
# Stop and remove the default container
make down
# Force a clean rebuild (for example, after upgrading VERSION/RELEASE)
make reset
# Just download binaries without building
make fetch
# Override arch or version explicitly
make up ARCH=x86_64
make up VERSION=135.0.1 RELEASE=beta.24make up は既定のコンテナをすぐ立ち上げます。Node のヒープを大きくする、VNC を使う、プロファイルのディレクトリを残す、といった実行時の設定を自分で決めたいなら、先にイメージを作ってから自分で走らせてください。
# Build the image without starting the default container
make build
# Start with persistence, VNC live view, and a larger Node heap
mkdir -p ~/.camofox-docker
docker run -d \
--name camofox-browser \
--restart unless-stopped \
-p 9377:9377 \
-p 6080:6080 \
-p 5901:5900 \
-e CAMOFOX_PORT=9377 \
-e ENABLE_VNC=1 \
-e VNC_BIND=0.0.0.0 \
-e VNC_RESOLUTION=1920x1080 \
-e MAX_OLD_SPACE_SIZE=2048 \
-v ~/.camofox-docker:/root/.camofox \
camofox-browser:135.0.1-aarch64VNC を有効にすると、ブラウザは画面ありで動き、http://localhost:6080(noVNC)でその様子をこちらのブラウザから生で見られます。native の VNC クライアントを localhost:5901 につなぐこともできます。
すでに make up を実行しているなら、自分で決めた設定のものを立ち上げる前に、既定のコンテナを止めて消してください。
make down
# then run the custom docker run command aboveそのうえで ~/.hermes/.env に設定します。
CAMOFOX_URL=http://localhost:9377Camofox を Docker で動かしていて、ホストの機械が出しているウェブアプリを開かせたいなら、ループバックの書き換えを有効にしてください。CAMOFOX_URL はホスト側で公開している制御 API を指したままにしますが、http://127.0.0.1:3000 のようなページの URL は、コンテナの中からは http://host.docker.internal:3000 として開く必要があります。
# ~/.hermes/config.yaml
browser:
camofox:
rewrite_loopback_urls: true
loopback_host_alias: host.docker.internal # default; use a LAN IP if needed同じことをする環境変数です。
CAMOFOX_REWRITE_LOOPBACK_URLS=true
CAMOFOX_LOOPBACK_HOST_ALIAS=host.docker.internal書き換えが効くのは、ループバックのホスト(localhost、127.0.0.1、::1)を持つページ移動の URL だけです。CAMOFOX_URL は変えません。Docker を使わない Camofox の導入では、ブラウザがすでにホストの上で動いていてループバックの URL がそのまま正しいので、無効のままにしてください。
あるいは hermes tools → Browser Automation → Camofox から設定します。
Camofox は、ほかのブラウザの裏方と同じように選びます。hermes tools → Browser Automation で Camofox を選ぶと、config.yaml に browser.cloud_provider: camofox が書き込まれます。CAMOFOX_URL はサーバーの場所を示すだけで、ブラウザの選択がいったんあると、これを設定しただけでは裏方は選ばれません(一度も設定したことのない状態なら、今も自動で見つけます)。
残り続けるブラウザのセッション
既定では、Camofox のセッションごとに身元が無作為に決まるので、Cookie とログインはエージェントの再起動を越えて残りません。セッションが残るようにするには、~/.hermes/config.yaml に次を足します。
browser:
camofox:
managed_persistence: trueそのうえで、新しい設定が読み込まれるように Hermes を完全に再起動してください。
##### Hermes がすること
- プロファイルごとに決まる
userIdを Camofox に送り、サーバーがセッションをまたいで同じ Firefox のプロファイルを使い回せるようにします。 - 片づけのときにサーバー側の文脈の破棄を飛ばすので、Cookie とログインがエージェントの仕事のあいだで生き残ります。
userIdを動いている Hermes のプロファイルの範囲に閉じるので、Hermes のプロファイルが違えばブラウザのプロファイルも違います(プロファイルの隔離)。
##### Hermes がしないこと
- Camofox のサーバーに残ることを強いはしません。Hermes は変わらない
userIdを送るだけで、サーバー側がそのuserIdを残るタイプの Firefox のプロファイルのディレクトリに結びつけて応えなければなりません。 - お使いの Camofox サーバーのビルドが、どの求めも使い捨てとして扱う(たとえば、保存したプロファイルを読まずに常に
browser.newContext()を呼ぶ)なら、Hermes にはそのセッションを残らせることはできません。userId をもとにしたプロファイルの保持を実装した Camofox のビルドを動かしているか確かめてください。
##### 効いているか確かめる
- Hermes と Camofox のサーバーを立ち上げます。
- ブラウザの仕事で Google(かログインのあるサイト)を開き、手でサインインします。
- ブラウザの仕事を普通に終えます。
- 新しいブラウザの仕事を始めます。
- 同じサイトをもう一度開きます。サインインしたままのはずです。
5 でログアウトしていたら、Camofox のサーバーが変わらない userId に応えていません。設定の位置をもう一度確かめ、config.yaml を直したあとに Hermes を完全に再起動したか確かめ、Camofox のサーバーの版がユーザーごとの残るプロファイルに対応しているか確かめてください。
##### 状態の置き場
Hermes は、変わらない userId を、プロファイルごとのディレクトリ ~/.hermes/browser_auth/camofox/(既定でないプロファイルなら $HERMES_HOME の下の同じもの)から作ります。実際のブラウザのプロファイルのデータは Camofox のサーバー側に、その userId を鍵として置かれます。残るプロファイルを完全に消すには、Camofox のサーバー側で消したうえで、対応する Hermes のプロファイルの状態のディレクトリも消してください。
外で管理される Camofox のセッション
別のアプリ(デスクトップの助手、独自の連携、別のエージェント)が、見えている Camofox のブラウザを動かしているときは、Hermes が自前の隔離されたプロファイルを立てるのではなく、同じ身元の中で動くように設定します。
ふるまいを決めるつまみが3つあります。
| 設定 | 環境変数 | 効き方 |
|---|---|---|
browser.camofox.user_id |
CAMOFOX_USER_ID |
タブを作るときに Hermes が使う Camofox の userId。これを設定すると、そのセッションは「外で管理される」モードに入ります。 |
browser.camofox.session_key |
CAMOFOX_SESSION_KEY |
タブを作るときに送る sessionKey(別名 listItemId)。引き継ぎのときに既存のタブと突き合わせるのに使います。設定しなければ仕事ごとの値になります。 |
browser.camofox.adopt_existing_tab |
CAMOFOX_ADOPT_EXISTING_TAB |
true にすると、Hermes は最初に使うときに GET /tabs?userId=<user_id> を呼び、新しく作る前に既存のタブを使い回します。 |
環境変数は config.yaml より優先されます。どちらの書き方でも動きます。
browser:
camofox:
user_id: shared-camofox
session_key: visible-tab
adopt_existing_tab: trueCAMOFOX_USER_ID=shared-camofox
CAMOFOX_SESSION_KEY=visible-tab
CAMOFOX_ADOPT_EXISTING_TAB=trueuser_id を設定すると変わること:
- Hermes は仕事の終わりに壊す片づけをしません(
managed_persistence: trueと同じです)。別のアプリのタブ・Cookie・プロファイルは生き残ります。 - Hermes は
DELETE /sessions/<user_id>を呼びません。この口はユーザーのデータをすべて消し去るので、発火すれば外のアプリのセッションまで吹き飛ばしてしまいます。
タブの引き継ぎの仕組み(adopt_existing_tab: true のとき):
- プロセスが立ち上がってから最初のブラウザの道具の呼び出しで、Hermes は
GET /tabs?userId=<user_id>を投げます(制限時間は5秒)。 - 返ってきたタブのどれかが
listItemId == session_keyなら、Hermes はその組の中でいちばん新しく作られたものを引き継ぎます。 - そうでなければ、そのユーザーのいちばん新しく作られたタブを引き継ぎます(
listItemIdは問いません)。 - タブが1つもないか、求めが失敗したときは、Hermes は次の操作で新しいタブを作るほうに落ちます。
引き継ぎが起きるのは、そのセッションの tab_id が埋まるまでです。外のアプリが途中で引き継いだタブを閉じると、次のブラウザの道具の呼び出しで Camofox のエラーが表に出ます。Hermes は呼び出しのたびに新しいタブを探し直すことはしません。
session_key の決め方: *特定の*既存のタブに確実につながせたいなら、外のアプリがそれを作ったときに使った listItemId を session_key に設定してください。session_key を設定せず user_id だけを設定した場合、Hermes は仕事ごとの session_key(task_<id>)を作ります。Cookie とプロファイルは外のアプリと共有しますが、既存のものを使い回さず、隣に自分のタブを開きます。
同時に動かすときの注意: 外のアプリと Hermes は同じ Camofox の userId を同時に動かせますが、Camofox はクライアントのあいだでタブごとの焦点を調整しません。どちらが持ち主かはアプリの側で決めてください(たとえば、Hermes が動くあいだは外のアプリを止める、など)。
VNC での生の眺め
Camofox が画面ありで(見えるブラウザの窓を出して)動いているとき、Camofox は健全性の確認の返事に VNC のポートを載せます。Hermes はこれを自動で見つけ、ページ移動の返事に VNC の URL を含めるので、エージェントはブラウザの様子を生で見るための繋ぎ先を伝えられます。
Lightpanda のローカルエンジン
Lightpanda は、一から書かれた公開の画面なしブラウザです。すぐ立ち上がり、Chrome より 9 倍速く動き、メモリは 16 分の1で済みます。小さな仮想機械の上で長く生き続けるエージェントには、これが効いてきます。
Lightpanda は(「ローカルブラウザ」と同じ、ブラウザの出どころという意味での)ローカルエンジンで、クラウドのプロバイダではありません。実行ファイルを入れて PATH に置き(Lightpanda の導入の手引きを見てください)、hermes tools → Browser Automation で Lightpanda を選ぶか、次のように設定します。
# Add to ~/.hermes/config.yaml
browser:
cloud_provider: local
engine: lightpanda環境変数でもできます。
AGENT_BROWSER_ENGINE=lightpandaこのエンジンは、2つのブラウザのドライバのどちらでも動きます。
- Browser Use モード(既定)。 Hermes が自分で
lightpanda serve --host 127.0.0.1 --port <free>を立ち上げ(browser_execのセッションの名前ごと、あるいは仕事ごとに1つのプロセス)、Browser Use の CLI をそこに向けます。Chromium も Playwright も Node.js も要りません。プロセスはbrowser.inactivity_timeoutのあと、終了時、そして Hermes が落ちたときは迷子の掃除によって片づけられます。これらのプロセスはすべて$HERMES_HOME/cache/browser-use/lightpanda/http-cacheにある1つのディスク上の HTTP のキャッシュを共有するので、同じところをもう一度訪ねるときは素材の読み直しを省けます。Hermes がキャッシュの指定を渡すのは、入っている Lightpanda がそれに対応しているとき(0.3.x 以降)だけで、古い実行ファイルは単にキャッシュなしで動きます。消したいときは、まず Lightpanda のセッションを止めてから、そのディレクトリを消してください。Lightpanda には絵を描く部分がないのでcapture_screenshot()は使えず、道具の説明はモデルに文字を先に使うよう伝えます。またセッションごとにページを1つしか持てないので、モデルにはnew_tab()を一度だけ呼び、そのあとはgoto_url()を使うよう伝えます(上流では lightpanda-io/browser#1962 で追われています)。 - 組み込みのブラウザの道具(
/browser use off)。Hermes は手元の Chrome を動かすのと同じように、agent-browser --engine lightpandaを通して CDP で Lightpanda を動かします。ここには自動での Chrome への切り替えが付きます。Lightpanda は対応している操作(移動、写し取り、クリック、入力、スクロール、戻る、キー押下、評価)を受け持ち、対応していないものは Hermes が黙って Chrome でやり直します。スクリーンショットとbrowser_visionは、そのまま Chrome に回されます。
エンジンが無視されるとき。 browser.engine はブラウザの設定の中でいちばん優先度が低いものです。クラウドのプロバイダ(Nous の購読のブラウザも含みます。また一度も設定したことのない状態では、~/.hermes/.env にある BROWSERBASE_API_KEY や BROWSER_USE_API_KEY が自動で1つ選ばれます)、Camofox、browser.cdp_url や /browser connect による上書き、browser.use_real_profile は、どれもこれより優先されます。hermes tools で Lightpanda を選ぶと cloud_provider: local も書き込まれます。エンジンが設定されているのに何かに隠されているときは、/browser status と hermes doctor が、何に隠されているかも含めて教えてくれます。
CDP で手元の Chromium 系ブラウザにつなぐ(/browser connect)
クラウドのプロバイダを使う代わりに、Chrome DevTools Protocol(CDP)で、動いている自分の Chrome、Brave、Chromium、Edge に Hermes のブラウザの道具をつなげられます。エージェントの動きをその場で見たいとき、自分の Cookie やセッションが要るページを扱いたいとき、クラウドのブラウザの費用を避けたいときに役立ちます。
CLI ではこう使います。
/browser connect # Auto-launch/connect to a local Chromium-family browser at http://127.0.0.1:9222
/browser connect ws://host:port # Connect to a specific CDP endpoint
/browser status # Check current connection
/browser disconnect # Detach and return to cloud/local modeリモートデバッグを有効にしたブラウザがまだ動いていなければ、Hermes は対応している Chromium 系のブラウザを --remote-debugging-port=9222 付きで自動的に立ち上げようとします。見つけに行く対象には Brave、Brave Origin/Nightly、Google Chrome、Chromium、Microsoft Edge が入り、Linux でよくある導入先や、brave-origin、brave-origin-nightly、/opt/brave.com/brave-origin/brave-origin、/opt/brave.com/brave-origin-nightly/brave-origin、/opt/brave-bin/brave、/snap/bin/brave といった実行ファイルの名前も含まれます。
CDP でつないでいるあいだ、ブラウザの道具(browser_navigate、browser_click など)はクラウドのセッションを立ち上げる代わりに、動いているこちらのブラウザを相手に働きます。
WSL2 と Windows の Chrome: /browser connect より MCP を選ぶ
Hermes が WSL2 の中で動いていて、操りたい Chrome の窓が Windows のホスト側で動いているとき、/browser connect はたいてい最良の道ではありません。
理由です。
/browser connectは、Hermes 自身が使える CDP の口に届けることを前提にしています- 今どきの Chrome の生のデバッグのセッションは、昔ながらの
9222のポートと同じようには WSL から直接届かない、ホストの中だけの口を出すことがよくあります - Windows の Chrome がデバッグできる状態であっても、いちばんきれいな組み合わせは、Windows 側のブラウザの MCP サーバーに Chrome をつながせ、Hermes にはその MCP サーバーと話させることであることが多いのです
その形にするなら、Hermes の MCP 対応を通して chrome-devtools-mcp を使ってください。
実際の手順は MCP の手引きにあります。
ローカルブラウザモード
クラウドの資格情報を何も設定せず、/browser connect も使わない場合でも、Hermes は agent-browser が動かす手元の Chromium を通してブラウザの道具を使えます。
任意の環境変数
# Residential proxies for better CAPTCHA solving (default: "true")
BROWSERBASE_PROXIES=true
# Advanced stealth with custom Chromium — requires Scale Plan (default: "false")
BROWSERBASE_ADVANCED_STEALTH=false
# Session reconnection after disconnects — requires paid plan (default: "true")
BROWSERBASE_KEEP_ALIVE=true
# Custom session timeout in seconds (max 21600 = 6 hours) (default: project default)
# Examples: 600 (10min), 1800 (30min), 21600 (6h max)
BROWSERBASE_SESSION_TIMEOUT=1800
# Inactivity timeout before auto-cleanup in seconds (default: 120)
BROWSER_INACTIVITY_TIMEOUT=120
# Local browser engine. Equivalent to browser.engine in config.yaml. In
# Browser Use mode (default) "lightpanda" makes Hermes spawn `lightpanda serve`;
# with the built-in tools it is passed to agent-browser as --engine.
# auto — Chrome (default)
# lightpanda — Lightpanda
# chrome — force Chrome explicitly
AGENT_BROWSER_ENGINE=auto
# Extra Chromium launch flags (comma- or newline-separated). Hermes auto-injects
# `--no-sandbox,--disable-dev-shm-usage` when it detects root or AppArmor-restricted
# unprivileged user namespaces (Ubuntu 23.10+, DGX Spark, many container images),
# so most users don't need to set this. Set it manually only if you need a flag
# Hermes doesn't add automatically; setting it disables the auto-injection.
AGENT_BROWSER_ARGS=--no-sandboxagent-browser CLI を入れる
インストーラーと hermes update は、既定で Hermes のパッケージマネージャーを通して agent-browser と、版を固定した Chromium を入れます。--skip-browser / -SkipBrowser を付けてインストールした場合や、ダウンロードに失敗した場合は、次のコマンドで入れてください。
hermes pm install agent-browserこれで以前の --skip-browser の選択も取り消されるので、以後の更新でもブラウザの道具が最新に保たれます。すでに PATH 上にある agent-browser も使えます。 Linux では、Chromium にシステムのライブラリが必要なこともあります (npx playwright install-deps chromium)。Android/Termux では、代わりに npm install -g agent-browser && agent-browser install を実行してください。
使える道具
browser_navigate
URL へ移動します。ほかのブラウザの道具より先に呼ぶ必要があります。Browserbase のセッションを立ち上げます。
Navigate to https://github.com/NousResearchbrowser_snapshot
今のページのアクセシビリティツリーを、文字での写しとして取ります。browser_click や browser_type で使うための、@e1、@e2 のような参照の ID が付いた操作できる要素が返ります。
full=false(既定): 操作できる要素だけを見せる、詰めた眺めfull=true: ページの中身をすべて
browser.snapshot_threshold(既定は 15,000 文字。web_extract と同じ、ページごとの予算です)より大きい写しは、行の切れ目で自動的に切り詰められます。LLM による要約は挟みません。切り詰めが起きたときは、写し全体が ~/.hermes/cache/web/ に保存され、道具の出力にはそのファイルの場所と、そのまま使える read_file の呼び出しが載ります。エージェントは写しを取り直さずに、切られた先にある要素の参照も含めて、アクセシビリティツリー全体を順に読めます。
長いページで、もっと多くの中身をそのままエージェントに届けたいときは、上限を上げてください。
# ~/.hermes/config.yaml
browser:
snapshot_threshold: 30000hermes config set browser.snapshot_threshold 30000 でも設定できます。この設定は、はっきり呼んだ browser_snapshot にも、ページ移動のあとに自動で返る写しにも効き、Camofox の裏方にも効きます(最小は 1000)。変えたあとは、ブラウザの設定のキャッシュが読み直されるように、今の Hermes のセッションを再起動してください。
browser_click
写しにある参照の ID で示した要素をクリックします。
Click @e5 to press the "Sign In" buttonbrowser_type
入力欄に文字を打ちます。まず欄を空にしてから、新しい文字を打ちます。
Type "hermes agent" into the search field @e3browser_scroll
ページを上下にスクロールして、続きを出します。
Scroll down to see more resultsbrowser_press
キーボードのキーを押します。フォームの送信やページ移動に便利です。
Press Enter to submit the form使えるキー: Enter、Tab、Escape、ArrowDown、ArrowUp など。
browser_back
ブラウザの履歴で1つ前のページに戻ります。
browser_get_images
今のページにある画像を、URL と代替テキストとともに並べます。解析したい画像を探すのに便利です。
browser_vision
スクリーンショットを撮り、目で見る AI で解析します。文字の写しでは大事な見た目の情報が拾えないときに使います。CAPTCHA、込み入った配置、目で確かめる関門にとくに効きます。
スクリーンショットは残る形で保存され、AI の解析と一緒にファイルの場所が返ります。メッセージのやり取りをする場(Telegram、Discord、Slack、WhatsApp)では、エージェントにスクリーンショットを送るよう頼めます。MEDIA: の仕組みを通して、その場の写真の添付として送られます。
What does the chart on this page show?スクリーンショットは ~/.hermes/cache/screenshots/ に置かれ、24 時間後に自動で片づけられます。
browser_console
今のページのブラウザのコンソールの出力(log/warn/error のメッセージ)と、拾われなかった JavaScript の例外を取ります。アクセシビリティツリーには現れない、静かな JS のエラーを見つけるのに欠かせません。
Check the browser console for any JavaScript errorsclear=True を使うと読んだあとにコンソールを空にするので、次からは新しいメッセージだけが見えます。
browser_console は、expression の引数を付けて呼ぶと JavaScript の評価もします。DevTools のコンソールと同じ形で、結果は解いた形で返ります(JSON にできる物は辞書になり、素の値は素のままです)。
browser_console(expression="document.querySelector('h1').textContent")
browser_console(expression="JSON.stringify(performance.timing)")今のセッションで CDP の監督役が動いているとき(CDP を扱える裏方に対して browser_navigate を実行したセッションなら、たいていそうです)、評価は監督役の残り続ける WebSocket の上で走るので、子プロセスを立ち上げる費用がかかりません。そうでなければ、いつもの agent-browser の CLI の経路に落ちます。ふるまいはどちらでも同じで、変わるのは待ち時間だけです。
評価は既定では制限されません。エージェントは fetch を使い、保存領域を読み、フォームの値を調べ、DOM から何でも取り出せます。私設や内部のアドレスを狙う求めは、手元でない裏方では今も止められます(SSRF の守りはこの設定とは別に働きます)。ログイン済みのプロファイルで危ないページを見て回っていて、機微な JS の部品(Cookie、保存領域、クリップボード、通信、フォームの値)に厳しい拒否の一覧をかけたいなら、config.yaml で browser.restrict_evaluate: true を選んでください。この拒否の一覧は部品の*名前*で当たるので、fetch や cookie といった語をたまたま含むだけの真っ当な式も止まる点に注意してください。
browser_cdp
Chrome DevTools Protocol をそのまま通す道です。ほかの道具では届かないブラウザの操作のための逃げ道になります。その場のダイアログの処理、iframe に閉じた評価、Cookie や通信の制御、そのほかエージェントに必要などの CDP の命令にも使えます。
セッションの始まりに CDP の口に届くときだけ使えます。 つまり /browser connect で動いている Chrome、Brave、Chromium、Edge につないでいるか、config.yaml に browser.cdp_url が設定されている場合です。既定の手元の agent-browser のモード、Camofox、クラウドのプロバイダ(Browserbase、Browser Use、Firecrawl)は、今のところこの道具に CDP を出していません。クラウドのプロバイダにはセッションごとの CDP の URL がありますが、動いているセッションへの振り分けはこれからの課題です。
CDP のメソッド一覧: https://chromedevtools.github.io/devtools-protocol/ — エージェントは特定のメソッドのページを web_extract して、引数と返りの形を調べられます。
よくある形です。
# List tabs (browser-level, no target_id)
browser_cdp(method="Target.getTargets")
# Handle a native JS dialog on a tab
browser_cdp(method="Page.handleJavaScriptDialog",
params={"accept": true, "promptText": ""},
target_id="<tabId>")
# Evaluate JS in a specific tab
browser_cdp(method="Runtime.evaluate",
params={"expression": "document.title", "returnByValue": true},
target_id="<tabId>")
# Get all cookies
browser_cdp(method="Network.getAllCookies")ブラウザ全体のメソッド(Target.*、Browser.*、Storage.*)に target_id は要りません。ページごとのメソッド(Page.*、Runtime.*、DOM.*、Emulation.*)には、Target.getTargets から取った target_id が要ります。呼び出しはそれぞれ状態を持たず独立していて、セッションは呼び出しのあいだに残りません。
オリジンをまたぐ iframe: frame_id(browser_snapshot.frame_tree.children[] の is_oopif=true のもの)を渡すと、その iframe に対する監督役の生きたセッションを通して CDP の呼び出しが回されます。Browserbase でオリジンをまたぐ iframe の中の Runtime.evaluate が動くのはこの仕組みのおかげで、状態を持たない CDP の接続では署名付き URL の期限切れに当たってしまいます。例です。
browser_cdp(
method="Runtime.evaluate",
params={"expression": "document.title", "returnByValue": True},
frame_id="<frame_id from browser_snapshot>",
)同じオリジンの iframe に frame_id は要りません。代わりに、いちばん上での Runtime.evaluate から document.querySelector('iframe').contentDocument を使ってください。
browser_dialog
その場の JS のダイアログ(alert / confirm / prompt / beforeunload)に応えます。この道具ができる前は、ダイアログが黙ってページの JavaScript の流れを止め、続く browser_* の呼び出しが固まったり例外を投げたりしていました。今は、エージェントが browser_snapshot の出力で待っているダイアログを見て、はっきり応えられます。
流れ:
browser_snapshotを呼びます。ダイアログがページを止めていれば、pending_dialogs: [{"id": "d-1", "type": "alert", "message": "..."}]として現れます。browser_dialog(action="accept")かbrowser_dialog(action="dismiss")を呼びます。prompt()のダイアログにはprompt_text="..."を渡して答えを与えます。- もう一度写しを取ります。
pending_dialogsは空になり、ページの JS の流れは動き出しています。
見つけるのは自動です。 残り続ける CDP の監督役 — 仕事ごとに1つの WebSocket が Page/Runtime/Target の出来事を購読しています — が受け持ちます。監督役は写しに frame_tree の項目も埋めるので、エージェントは今のページの iframe の構造を、オリジンをまたぐもの(OOPIF)も含めて見られます。
使えるかどうかの一覧:
| 裏方 | pending_dialogs で見つけられるか |
応答(browser_dialog の道具) |
|---|---|---|
/browser connect か browser.cdp_url でつないだ手元の Chrome |
✓ | ✓ 一連の流れが使えます |
| Browserbase | ✓ | ✓ 一連の流れが使えます(差し込んだ XHR の橋を通して) |
| Camofox / 既定の手元の agent-browser | ✗ | ✗(CDP の口がありません) |
Browserbase での仕組み。 Browserbase の CDP の中継は、本物のその場のダイアログをサーバー側で 10 ミリ秒ほどのうちに自動で閉じてしまうので、Page.handleJavaScriptDialog は使えません。監督役は Page.addScriptToEvaluateOnNewDocument で小さなスクリプトを差し込み、window.alert / confirm / prompt を同期の XHR で置き換えます。その XHR を Fetch.enable で横取りし、エージェントの答えとともに Fetch.fulfillRequest を呼ぶまで、ページの JS の流れは XHR の上で止まったままになります。prompt() の戻り値は、そのままの形でページの JS へ返っていきます。
ダイアログの方針は、config.yaml の browser.dialog_policy で設定します。
| 方針 | ふるまい |
|---|---|
must_respond(既定) |
捕まえて写しに出し、はっきりした browser_dialog() の呼び出しを待ちます。browser.dialog_timeout_s(既定は 300 秒)が過ぎたら安全のために自動で閉じるので、不具合のあるエージェントが永久に止まってしまうことはありません。 |
auto_dismiss |
捕まえて、すぐ閉じます。エージェントは browser_state の履歴でダイアログを見られますが、応えなくてかまいません。 |
auto_accept |
捕まえて、すぐ受け入れます。しつこい beforeunload の確認が出るページを渡り歩くときに便利です。 |
フレームの木(browser_snapshot.frame_tree の中)は、広告の多いページでも渡す量が膨らまないよう、30 フレーム、OOPIF の深さ2までに抑えられています。上限に当たったときは truncated: true の旗が現れます。木の全体が要るエージェントは、browser_cdp で Page.getFrameTree を使えます。
実際の例
ウェブのフォームを埋める
User: Sign up for an account on example.com with my email john@example.com
Agent workflow:
1. browser_navigate("https://example.com/signup")
2. browser_snapshot() → sees form fields with refs
3. browser_type(ref="@e3", text="john@example.com")
4. browser_type(ref="@e5", text="SecurePass123")
5. browser_click(ref="@e8") → clicks "Create Account"
6. browser_snapshot() → confirms success動きのある中身を調べる
User: What are the top trending repos on GitHub right now?
Agent workflow:
1. browser_navigate("https://github.com/trending")
2. browser_snapshot(full=true) → reads trending repo list
3. Returns formatted resultsセッションの録画
ブラウザのセッションを WebM の動画として自動で録画します。
browser:
record_sessions: true # default: false有効にすると、最初の browser_navigate で録画が自動的に始まり、セッションが閉じるときに ~/.hermes/browser_recordings/ へ保存されます。手元のモードでもクラウド(Browserbase)のモードでも動きます。72 時間より古い録画は自動で片づけられます。
画面ありモード(見えるブラウザの窓)
既定では、手元のブラウザは画面なしで動きます。画面ありモードにすると、こちらが見て触れる Chromium の窓が出ます。
browser:
headed: true # default: false環境変数でもできます: AGENT_BROWSER_HEADED=1。
画面ありモードは2つのことをします。
- 見える窓とともに Chromium を立ち上げます(手元のモードでは
--headedを agent-browser に渡します)。 - ターンのあいだも窓を開いたままにします。 普通はエージェントの返事のたびにブラウザのセッションが片づけられますが、画面ありモードではターンごとの片づけを飛ばすので、エージェントの働くさまを見たり、手で割り込んだり(サインインの関門、CAPTCHA)、会話のあいだログインの状態を温めておいたりできます。
動きのないセッションは今も browser.inactivity_timeout(既定ではブラウザの動きが 120 秒ない状態)で片づけられ、終了時にはすべてのセッションが閉じられます。画面ありモードが効くのは手元のブラウザだけで、クラウドのセッション(Browserbase)には効きません。
隠密の働き
Browserbase は、自動で隠密の働きを備えています。
| 働き | 既定 | 備考 |
|---|---|---|
| 基本の隠密 | 常に有効 | 無作為の指紋、表示領域の無作為化、CAPTCHA の突破 |
| 住宅用のプロキシ | 有効 | 住宅用の IP を通すので、より通りやすくなります |
| 進んだ隠密 | 無効 | 独自ビルドの Chromium。Scale Plan が必要です |
| Keep Alive | 有効 | 回線が乱れたあとにセッションをつなぎ直します |
セッションの扱い
- 仕事ごとに、Browserbase の隔離されたブラウザのセッションが割り当てられます
- 動きがないと、セッションは自動で片づけられます(既定では2分)
- 裏で動く流れが 30 秒ごとに、古びたセッションがないか確かめます
- 迷子のセッションが残らないよう、プロセスの終了時に緊急の片づけが走ります
- セッションは Browserbase の API を通して手放されます(
REQUEST_RELEASEの状態)
できないこと
- 文字でのやり取り — 画素の座標ではなく、アクセシビリティツリーに頼っています
- 写しの大きさ — 大きなページは
browser.snapshot_thresholdで切り詰められます(既定は 15,000 文字で、web_extractと揃えてあります。LLM による要約はしません)。写しの全体は~/.hermes/cache/web/に保存され、出力がread_fileで順に読むための場所を指します - セッションの期限 — クラウドのセッションは、お使いのプロバイダのプランの設定に従って切れます
- 費用 — クラウドのセッションはプロバイダの残高を使います。会話が終わったとき、あるいは動きがなくなったときに自動で片づけられます。無料で手元から見て回るなら
/browser connectを使ってください - ファイルの取り込みはできません — ブラウザからファイルを落とすことはできません