智能代理网关

ArchGW：让 AI 秒懂你的“中间人”

王圆圆

14 Jul 2025 — 5 min read

在你要做一个“能听懂人话、自动帮你执行任务”的 AI 应用时，通常需要写一大堆代码来完成这些步骤：

把用户说的话翻译成机器能懂的指令；
根据指令选择合适的 AI 模型或后端服务；
给模型或服务传参、再把结果返回给用户；
处理越权或危险操作，记录日志、监控性能……

ArchGW 就是专门为这种场景准备的“中间人”。它把上面那一串复杂流程全部打包好了，你只要简单配置，就能立刻使用。

虽然 ArchGW 和像 ChatGPT、Gemini 这样的通用人工智能（LLM）都能理解自然语言，但它们的角色完全不同：

通用 AI 更像是一个“聪明的大脑”，善于回答问题、写文章、做总结；而 ArchGW 是一个“智能调度中心”，负责识别用户的意图、调用合适的模型或系统、并执行具体任务。它不产生内容，而是帮你把 LLM 变成真正能“动手”的智能应用。

👉 比如你说：“帮我把这篇文章发到公司博客上。”

ChatGPT 可能会回你：“你可以登录博客后台，把内容粘贴进去。”
而 ArchGW 会识别你的任务是“发布博客”，提取文章标题与内容，自动调用你配置好的 API（比如 Ghost、Notion、WordPress），直接完成发布操作，就像一个自动执行命令的智能助理。

简单说：LLM 负责“想”，ArchGW 负责“做”。

为什么需要 ArchGW？

省心又高效：不用自己从零写意图识别、函数调用、日志监控这些“胶水”代码。
随时切换 AI：想用 OpenAI、Ollama 还是别家的模型，一行配置就搞定，避免被单一厂商锁定。
安全有保障：统一的“Guardrails”规则，自动拦截危险命令，比如“删除所有用户数据”这种操作会被拒绝并提示确认。
性能可观测：自带 OpenTelemetry 和链路追踪，能把每一步请求的耗时、状态码、错误信息都丢到 Jaeger、Signoz、Honeycomb 里，随时排查问题。

核心功能

“听懂”用户的意图
- 用户：“给我查一下明天北京的天气？”
- ArchGW：先把这句话丢给内置的小模型，迅速分辨出“这是要查天气”，并且提取出“北京”“明天”这两个关键词。
自动调用对应服务
- ArchGW 根据你预先写好的配置，把“北京”“明天”带到天气接口里，一口气把结果拿回来。
- 你根本不用动代码，只要在配置文件里写好“weather_api 接口地址”就行。
多轮对话 & 函数调用
- 用户：“下周一下午三点帮我给 Alice 安排个会议。”
- ArchGW 会先把“下周一下午三点”解析成具体日期，组装成“创建日历事件”的接口请求，再调用你的日历服务。
- 完全不用写一行 glue 代码，配置一次后面就自动跑。
统一监控 & 安全拦截
- 所有请求——无论是天气查询、建会、下单还是别的操作——都在同一个面板里可视化。
- 如果检测到“删除所有用户数据”这种敏感请求，按你的规则直接拦截并返回“你确定要这么干吗？”的提示。

典型应用场景

智能客服：一套对话系统同时支撑查订单、改密码、投诉反馈等多种任务，后端接口各不相同，ArchGW 一条龙搞定。
运维自动化：“帮我重启一下数据库”“生成今天的流量报告发给我”……对话一出，自动调用相应脚本或 API。
SaaS 系统集成：一个聊天入口打通 Slack、Jira、Notion、Salesforce，权限校验和日志记录都由 ArchGW 管。

怎么开始用？

发请求试试
向 http://localhost:10000/v1/chat/completions 发送：

{"role":"user","content":"明天下午北京天气怎么样？"}

你就能马上拿到结构化的天气数据。

启动网关

archgw build
archgw download-models
archgw up --service archgw --foreground

写配置文件（arch_config.yaml）

listeners:
  ingress:
    address: 0.0.0.0
    port: 10000

llm_providers:
  - model: openai/gpt-4o
    access_key: $OPENAI_API_KEY

prompt_guards:
  input_guards:
    jailbreak:
      on_exception:
        message: "该操作有风险，请确认权限。"

prompt_targets:
  - name: get_weather
    description: "查询天气"
    parameters:
      - name: location
        required: true
    endpoint:
      name: weather_api
      path: /forecast?city={location}&date={date}

endpoints:
  weather_api:
    endpoint: api.weather.com:443
    protocol: https

安装命令行工具