BLCL的博客小馆

标签 · Geventbinance闲置资金记得放理财!立即注册立享高达 $1,100 的交易手续费返还券!!

首页

关于

归档

DifyCeleryGunicornGeventAI Agent高并发性能调优

Dify 生产环境性能调优:API 并发与 Celery 后台任务参数实践

一、问题背景 最近在整一个大模型的项目,生产环境用的是一台标准的 8核 16G 云服务器,上面自己独立部署了 Dify 平台。 我们的业务主要已AI对话+工作流为主,没有大文件处理和知识库管理。 不玩重活:完全没有大文件解析、数据集批量导入,或者知识库切片这种疯狂吃内存的“重体力活”。 全是业务:纯粹的 Workflow 工作流和 Agent 智能体调度,里面塞满了各种大模型(LLM)节点,而且基本全是 Stream 流式输出。 刚上线并发一上来,前端和 API 就频繁蹦出 504 Gateway Timeout。去服务器上一看,16G 内存还剩一大截,但 CPU 各个核心忙得不均匀,Web 请求排大队。 进一步排查发现,Dify 的默认配置(尤其是官方 docker-compose.yml 及 .env ..

更多