面向复杂网页任务的智能浏览器代理框架,基于 LLM + Playwright MCP 执行浏览器操作,并结合上下文压缩、人工审批、文档检索与任务经验复用能力。
Daiboo(代步)通过 @playwright/mcp + LangChain/LangGraph 组合,实现可交互的 Web Agent。它不是只执行固定脚本的浏览器自动化工具,而是把浏览器操作、视觉分析、终端读写、文档检索和经验检索放入统一的 Agent 工具链中,由模型按任务目标动态编排。浏览器操作通过 MCP (Model Context Protocol) 以 snapshot-ref 模式驱动,并使用持久会话保持跨工具调用的页面状态。
- 支持自然语言驱动浏览器与辅助工具协同执行,MCP 已启用 vision 能力,可使用坐标类鼠标工具处理拖拽等场景。
- 支持文档上传索引、文档检索和任务经验复用。
- 支持 hCaptcha 专用求解工具(基于 hcaptcha-challenger),用于合法测试页或授权场景下的验证能力联调。
- 前端内置 RAG 工作台,可直接查看命中的相关 chunk,并对比大块、小块、层级聚合三种检索效果。
- 支持 CLI 模式和 FastAPI + 前端模式。
- Web 前端支持聊天历史持久化、回溯加载与删除会话;历史默认保存在
data/chat_history.json。
- 浏览器自动化:通过 @playwright/mcp 连接 CDP 端点,提供页面导航、元素快照交互、信息提取等能力。
- 模型推理编排:统一调度浏览器工具、视觉分析、终端工具与检索工具,支持多轮会话和可中断审批(HITL 中间件)。
- 上下文管理:长上下文压缩(旧消息摘要 + 字符硬阈值双触发)、归档和重放辅助。
- 浏览器动作追踪:对会改页面状态的 MCP 工具自动补充 DOM diff 与瞬时文本,减少额外 snapshot 验证轮次。
- 检索与记忆:基于 PostgreSQL + PGVector 的文档检索与任务经验沉淀。
- Python 3.11+
- Node.js 18+(建议 20+,用于运行 @playwright/mcp)
- PostgreSQL 14+
- 已启用
vector扩展(PGVector) - Redis 7+(可选;未配置时自动回退,不影响核心功能)
推荐使用 uv(快,锁定版本):
uv sync --locked --group dev
uv run playwright install chromium或使用传统 pip:
conda create -n langchainenv python=3.11 -y
conda activate langchainenv
pip install -r requirements.txt
playwright installPlaywright MCP 由 npx 按已验证版本启动,无需全局安装。可先验证 Node/npm 链路:
npx --yes @playwright/mcp@0.0.78 --versionPowerShell:
Copy-Item .env.example .envBash:
cp .env.example .env请至少填写 .env 中以下配置:
- 主聊天模型二选一:
- OpenAI 兼容接口:
OPENAI_API_KEY,可选OPENAI_BASE_URL、OPENAI_MODEL - DashScope 兼容路径:
DASHSCOPE_API_KEY(当OPENAI_API_KEY留空时自动回退)
- OpenAI 兼容接口:
- hCaptcha 求解二选一:
- GLM 路径:
LLM_PROVIDER=glm、GLM_API_KEY,可选GLM_BASE_URL、GLM_MODEL - Gemini 路径:
GEMINI_API_KEY
- GLM 路径:
- RAG/文档上传功能需要 PostgreSQL + PGVector:
DB_HOST、DB_PORT、DB_NAME、DB_USER、DB_PASSWORD - 浏览器控制:
BROWSER_PATH、USER_DATA_DIR、DEBUGGING_PORT、BROWSER_HEADLESS=auto|true|false。Linux 的auto会先正常启动,CDP 未就绪时自动用--headless=new重试一次。 - MCP:
PLAYWRIGHT_MCP_VERSION(默认固定为已验证的0.0.78)、NPX_COMMAND(可选自定义 npx 路径)。 - Web 服务可选项:
HOST(默认127.0.0.1)、PORT(默认8801,范围1..65535)、UPLOAD_DIR(默认temp_uploads/)、UPLOAD_MAX_MB(默认 20)。上传只接受.pdf/.doc/.docx/.md/.txt,临时文件在索引结束或失败后都会删除。
可选增强(不配置不影响运行):
- API 安全:
DAIBOO_API_KEY(设置即启用 X-API-Key 认证)、RATE_LIMIT(默认 60 req/60s,设 0 关闭)。Web 前端可从“安全”面板输入 Key,只写入当前标签页的sessionStorage。 - Redis 缓存:
REDIS_URL;可按需调整REDIS_RAG_SEARCH_TTL(默认 300 秒)、REDIS_RAG_SUMMARY_TTL(默认 60 秒)、REDIS_EMBEDDING_TTL(默认 86400 秒)。Redis 故障会自动按 cache miss 回退,不会阻断请求。 - 跨域:默认关闭 CORS;确需跨域时用
CORS_ALLOW_ORIGINS=https://a.example,https://b.example显式配置来源。 - 终端工具:
TERMINAL_TIMEOUT_SECONDS(默认 30)、TERMINAL_MAX_OUTPUT_CHARS(默认 20000)。Windows 优先pwsh/powershell,Linux/macOS 优先bash/sh,结果包含退出码。 - 日志:
LOG_LEVEL(debug/info/warning/error,默认 info)、LOG_FORMAT(pretty/json) - Skills 目录:
DAIBOO_SKILLS_DIR(默认skills/) - 会话持久化:
DAIBOO_CHECKPOINT_DIR(SQLite checkpoint,默认data/) - 聊天历史文件:
DAIBOO_CHAT_HISTORY_FILE(默认DAIBOO_CHECKPOINT_DIR/chat_history.json) - 演示模式:
DAIBOO_DEMO_MODE=1时/chat返回固定演示事件,不实际调用 Agent
运行时数据默认不入库:.env、.public-auth、data/、storage/、screen/、temp_uploads/ 等均已被 .gitignore 忽略;不要把本地认证文件、checkpoint 数据库或聊天历史提交到 Git。
详见 .env.example 中注释。
项目提供只绑定回环地址的缓存容器:
docker compose -f compose.redis.yml up -d随后在 .env 中设置:
REDIS_URL=redis://127.0.0.1:6380/0当前缓存边界刻意保持保守:缓存 Agent 文档检索、RAG 调试检索、RAG 语料概览和查询 Embedding;浏览器操作、流式聊天和上传写入不会缓存。文档成功写入后通过 Redis namespace generation 立即失效所有 RAG 结果,不使用全库 SCAN。GET /health 的 cache_configured / cache_available 可用于观察实际状态。
服务启动时会幂等确保实际生产查询需要的索引:rag_documents.embedding 上与 chunk_level='child' 查询条件一致的部分 HNSW 索引。已有 GIN 全文索引和父子块 B-tree 索引继续保留;当前数据量很小的 AgentTrace、Experience 以及仅用于调试的 parent 检索不额外堆索引。
# 直接启动
python run_server.py
# 或用 uv run(自动激活 venv + 安装缺失依赖)
uv run daiboo-serve启动后:
- API 默认监听
http://127.0.0.1:8801(可用.env里的HOST/PORT覆盖) run_server.py会自动打开frontend/index.html
python main.py
# 或
uv run daiboo支持命令:
new/reset:新建会话exit/quit:退出
Agent 在每次对话中可见的工具分两类:
MCP 浏览器原子工具(由 @playwright/mcp 动态加载):browser_navigate / browser_snapshot / browser_click / browser_type / browser_fill_form / browser_press_key / browser_select_option / browser_tabs / browser_evaluate / browser_file_upload / browser_take_screenshot / browser_wait_for 等。MCP 启动参数包含 --caps=vision,运行时还会暴露 browser_mouse_*_xy 等坐标类工具。详细列表运行时通过 GET /tools 查询。
本仓库自定义工具(在 tools/ 下):
list_skills/view_skill:Skill 技能系统。list_skills列出所有可用技能及描述,view_skill(name)加载完整技能内容。Agent 每次任务前应先调用list_skills查看有无匹配技能。web_observe:基于 simphtml 的 LLM-friendly 页面观察。跨 iframe 与 Shadow DOM 内容内联、自动剔除浮窗广告、字符预算可控(默认 35000)、表单当前值落入属性。与browser_snapshot共存,不替换。text_only=True:纯文本输出,最省 token,适合"快速看页面写了啥"text_only=False(默认):简化 HTML 输出,保留结构便于后续browser_snapshot拿 ref 操作
capture_element_context:截取目标元素及周围上下文的截图,返回本地路径。vl_analysis_tool:视觉模型分析图片(验证码、图表等)。solve_hcaptcha:基于 hcaptcha-challenger 在当前 CDP 浏览器页上处理 hCaptcha。调用前不要先点 hCaptcha checkbox,默认让工具以click_checkbox=True负责 checkbox 与 challenge 监听时序;工具成功返回后仍需用web_observe或browser_snapshot复核页面状态。terminal_read/terminal_write:跨平台终端读写操作(带 HITL 审批、执行超时、输出上限和退出码)。search_documents/search_task_experience:RAG 检索(文档 / 历史经验)。
自动加在工具结果末尾的 diff 与 transients:所有"会改页面状态"的 MCP 浏览器工具(click/type/navigate/...)调用结束后,工具返回末尾会自动追加:
[diff] DOM 变化量: N/[diff] 页面无明显变化[diff] 最显著变化: <html>...</html>[transients] [...]:动作期间出现的瞬时文本(toast / 错误提示 / loading)
由 loggers/diff_middleware.py 实现,省下 LLM "做动作 → 再 snapshot 验证" 的下一轮。
POST /chat:发送消息并流式返回执行结果,同时按thread_id写入聊天历史GET /chat/sessions:列出已保存的聊天会话概要,用于前端历史栏GET /chat/sessions/{thread_id}:读取指定会话的完整消息,前端可切回旧thread_id继续回溯上下文DELETE /chat/sessions/{thread_id}:删除指定聊天历史记录(不清理 LangGraph checkpoint)GET /tools:列出可用工具GET /skills:列出所有可用 Skills(名称、描述、版本、标签)GET /skills/{name}:加载指定 Skill 完整内容POST /upload:上传 PDF、DOC、DOCX、Markdown、TXT 文档并写入向量库;受UPLOAD_MAX_MB限制,无法生成 chunk 时返回 422,响应不会暴露服务端临时绝对路径POST /rag/search:调试 RAG 检索,返回大块、小块和层级聚合结果,以及相关 chunk 明细GET /rag/summary:获取当前 RAG 语料概览,包括文档数、父子块数量和旧数据数量
# 使用 uv(自动激活 venv)
uv run python -m pytest
# 或直接
pytest示例:
uv run python -m pytest test/test_context_compression.py -v -s
uv run python -m pytest test/test_hcaptcha_solver_classification.py -v手工联调脚本放在 test/manual/,不会被默认 pytest 收集。常用命令:
uv run python test/manual/epic_login_manual.py
uv run python test/manual/hcaptcha_demo_manual.py --prompt v4 --recursion 120其中 hCaptcha demo 只面向官方演示站和授权测试场景;--prompt v4 会调用 solve_hcaptcha,需要已配置 GLM 或 Gemini 相关环境变量。
ModuleNotFoundError:检查是否激活虚拟环境并已安装依赖。- 数据库报错
extension "vector" does not exist:在目标数据库执行CREATE EXTENSION IF NOT EXISTS vector;。 - MCP 连接失败 /
npx找不到:确认 Node.js 已安装且npx --yes @playwright/mcp@0.0.78 --version可运行;如需切换已验证版本或命令路径,设置PLAYWRIGHT_MCP_VERSION/NPX_COMMAND。 - 浏览器未启动 / CDP 连接被拒绝:检查
.env中BROWSER_PATH、DEBUGGING_PORT和BROWSER_HEADLESS。启动器会访问/json/version验证真实 CDP;Linuxauto模式在首次失败后自动用--headless=new重试。 PORT must be an integer between 1 and 65535:检查.env中PORT是否为空、非数字或超出端口范围。solve_hcaptcha返回missing_*_api_key:检查.env是否配置LLM_PROVIDER=glm + GLM_API_KEY,或配置可直连的GEMINI_API_KEY。
Skills 是预置的专项知识模块,Agent 按需加载。每个 Skill 是一个 skills/<name>/SKILL.md 文件,包含 YAML frontmatter 和 Markdown 正文。
在 skills/ 下创建子目录,放入 SKILL.md:
---
name: my-skill
description: "技能描述"
version: 1.0.0
tags: [tag1, tag2]
---
# 技能内容
详细步骤、命令、陷阱等...Skills 目录可通过环境变量 DAIBOO_SKILLS_DIR 覆盖(默认 skills/)。
服务启动后自动扫描;前端 Skills 页面可查看列表和详情;Agent 在对话中通过 list_skills → view_skill(name) 加载。
README.md:面向人类开发者与使用者,负责上手与运行说明。AGENTS.md:面向 AI coding agent,负责修改约束、边界和维护规则。