更新 使用OpenResty反向代理.md
This commit is contained in:
parent
f43109f6e7
commit
67f1672d6f
@ -14,9 +14,9 @@
|
|||||||
|
|
||||||
不修改 vLLM 的源码,也不用抓包工具,针对 vLLM 部署的 gpt-oss-120b 的 Open AI API 加一层反向代理,把请求参数写到 access_log 并轮转。
|
不修改 vLLM 的源码,也不用抓包工具,针对 vLLM 部署的 gpt-oss-120b 的 Open AI API 加一层反向代理,把请求参数写到 access_log 并轮转。
|
||||||
|
|
||||||
## 使用容器部署 OpenResty
|
## OpenResty
|
||||||
|
|
||||||
用这玩意儿是因为它可以在 nginx.conf 里面写 Lua 脚本,提供了一系列的增强能力。
|
用这玩意儿是因为它可以在 nginx.conf 里面写 Lua 脚本,还提供了一系列的增强能力,比直接用 nginx 更省心。
|
||||||
|
|
||||||
### nginx.conf
|
### nginx.conf
|
||||||
|
|
||||||
|
|||||||
Loading…
Reference in New Issue
Block a user