跳转至

by-framework

企业级 AI Agent 分布式调度中枢
基于 Redis Streams 构建，支持 Python、Java、TypeScript 的高度解耦架构。

  • 分布式任务调度

    采用 事件驱动 架构。通过 GatewayClient 和 GatewayWorker 以及 Redis Streams 消费组，实现生产者与消费者完全解耦，支持平滑扩容与负载均衡。

  • 多语言一致性

    为 Python、Java、TS 提供一致的编程模型。基于标准化的 AskAgentCommand 和 AgentTaskResult 契约，跨语言无缝对接同一消息中枢。

  • 全生命周期管控

    基于 AgentContext 上下文机制。提供非阻塞流式发射，框架底层接管线程取消指令（避免死锁），并自动规范化业务返回结果。

  • 高度插件化扩展

    基于 Interceptor/Plugin 洋葱圈模型设计。支持在各种生命周期切面（如 pre_process, post_process）进行无侵入式拦截、审计与工具注入。

  • 智能服务发现

    内置 Registry 机制，Worker 节点支持自动化注册与心跳健康检测。结合 Discovery Client，可实现动态标签路由与请求的高可用容灾。

  • 全链路可观测

    从客户端下发指令到服务端执行生成，原生提供端到端的 Tracing 追踪支持。精准捕获执行耗时、状态流转与异常堆栈。

🏗️ 系统架构

框架采用 控制流 (Control Plane) 与 数据流 (Data Plane) 分离的设计理念：

graph TD
    subgraph ClientLayer [接入层 Client]
        GC["GatewayClient"]
    end

    subgraph MessagingLayer [消息中枢 Redis]
        CS["Control Stream<br/>任务下发"]
        RS["Registry<br/>状态/心跳"]
        DS["Data Stream<br/>流式输出"]
    end

    subgraph ExecutionLayer [执行层 Workers]
        W1["Python Worker"]
        W2["Java Worker"]
        W3["TS Worker"]
    end

    subgraph ConsumerLayer [输出层 Backend]
        BE["Backend Consumer"]
    end

    GC --> CS
    CS --> W1
    CS --> W2
    CS --> W3

    W1 -.-> RS
    W2 -.-> RS
    W3 -.-> RS

    W1 --> DS
    W2 --> DS
    W3 --> DS

    DS --> BE

🛠️ 快速导航