按质量切换模型
为任务配置多个模型后，可先尝试成本较低的模型，并根据回答质量决定是否切换，避免所有请求都固定使用同一个模型。
BAIZE AI RESOURCE
AI 智能体模型调度工具
Cascadeflow
Cascadeflow 是供开发者接入 AI 智能体的模型调度工具。它根据任务和回答质量选择模型，在需要时切换到更合适的模型，并提供用量与成本记录，帮助团队在保证回答质量的同时管理调用成本。
资源介绍
Cascadeflow 适合正在开发 AI 助手或智能体的团队，而不是直接面向终端用户的聊天应用。开发者可以在 Python 或 TypeScript 项目中接入它，为任务配置多个模型；处理请求时，先使用成本较低的模型，再根据质量判断决定是否切换到其他模型。它也支持在智能体执行过程中管理工具调用预算、记录模型选择过程，并查看每次请求的成本与耗时。对于需要兼顾回答质量、响应速度和调用预算的应用，这些信息有助于调整模型使用方式。项目提供流式文本及工具调用支持，也可与部分现有智能体框架集成。
应用能力
管理调用成本与预算
结果中包含请求成本、节省比例等数据；在智能体执行过程中，还可对工具调用设置预算控制。
流式处理文本和工具调用
可逐段接收文本，并获取模型切换、工具调用开始及工具执行结果等事件，便于在交互界面中展示执行进度。
连接不同模型提供方
支持配置 OpenAI、Anthropic、Groq，以及通过 Ollama 或 vLLM 使用的模型，方便在同一应用中组合模型。
资源配置
应用版本
v1.2.0
运行环境
其他
安装方式
包管理器安装命令安装
依赖环境
PythonNode.jsAPI KeyOllama
安装与使用
阅读资源包中的中文说明和上游官方文档。
核对版本、运行环境与依赖条件后完成配置。
先在隔离环境验证主要功能，再用于实际场景。
使用案例
控制 AI 助手的模型调用成本
使用场景开发团队需要处理难度不同的用户提问。
团队为助手配置低成本和高能力模型，让简单问题优先由低成本模型处理；当回答未达到质量要求时，再切换模型，并查看每次请求的成本记录。
展示智能体的执行进度
使用场景开发者正在制作会调用外部工具的交互式助手。
开发者订阅文本和工具调用的流式事件，在界面中逐步展示回答、模型切换和工具执行结果。
包含内容
release-0-cascadeflow-1.2.0.tar.gz
README-中文安装说明.md
LICENSE-MIT.txt
SHA256.txt
相关资源
