diff --git a/20251011.md b/20251011.md index ba37057..17e3451 100644 --- a/20251011.md +++ b/20251011.md @@ -1,6 +1,6 @@ ## 问题原因 -在 get_structured_output_key 中处理 structured_outputs 参数抛异常,该异常未被 EngineCore 捕获导致引擎崩溃,APIServer 发现引擎死了,自己也退出了进程。 +vllm在处理请求时,调用了 get_structured_output_key 函数,在处理 structured_outputs 参数抛异常,该异常未被 EngineCore 捕获导致引擎崩溃,APIServer 发现引擎死了,自己也退出了进程。 ## 源码的具体实现 @@ -116,10 +116,6 @@ class StructuredOutputOptions(enum.Enum): ``` > 💡只支持这6种类型,每个类型都对应 structured_outputs 下面的一个不同的参数。 -## 推断 - -客户端上报了 structured_outputs 或者 guided_decoding 参数,但是一个空对象,或者参数不符合这6种情况引起了异常。 - ## 崩溃日志片段 ```text