第五章：Middleware（中间件模式）

作用

Middleware 模式可以扩展 Tool 和 ChatModel 的行为：

• Middleware 是 Agent 的拦截器：在调用前后插入自定义逻辑
• Middleware 可处理错误：将错误转换为模型可理解的格式
• Middleware 可实现重试：自动重试失败的操作
• Middleware 可组合：多个 Middleware 可以串联使用

常用的Middleware

• SafeToolMiddleware： 将 Tool 错误转换为字符串，让模型能够理解并处理

type safeToolMiddleware struct {
    *adk.BaseChatModelAgentMiddleware
}

func (m *safeToolMiddleware) WrapInvokableToolCall(
    _ context.Context,
    endpoint adk.InvokableToolCallEndpoint,
    _ *adk.ToolContext,
) (adk.InvokableToolCallEndpoint, error) {
    return func(ctx context.Context, args string, opts ...tool.Option) (string, error) {
        result, err := endpoint(ctx, args, opts...) // 工具调用
        if err != nil {
            if _, ok := compose.IsInterruptRerunError(err); ok {// 过滤中断err
                return "", err
            }
            // 将错误转换为字符串，而不是返回错误
            return fmt.Sprintf("[tool error] %v", err), nil
        }
        return result, nil
    }, nil
}

• ModelRetryConfig： 配置 ChatModel 的自动重试

agent, err := deep.New(ctx, &deep.Config{
    // ...
    ModelRetryConfig: &adk.ModelRetryConfig{
        MaxRetries: 5,
        IsRetryAble: func(_ context.Context, err error) bool { // 定义哪些err可以进行重试
            // 429 限流错误可重试
            return strings.Contains(err.Error(), "429") ||
                strings.Contains(err.Error(), "Too Many Requests") ||
                strings.Contains(err.Error(), "qpm limit")
        },
    },
})