故障排查
从 VPS 调用 LLM API 时最常见问题的解决方法。
连接超时或被拒绝
该 API 仅可从 ReadyServer VPS 通过私有网络访问。
- 请确认命令是在你的 ReadyServer VPS 上运行,而不是在自己的电脑或其他服务商的服务器上。
- 确认 base URL 与快速入门中的完全一致,包括端口与路径。
- 确认主机名可以解析:
getent hosts api.readyserver.ai应输出10.8.8.2。 - 如果你的 VPS 防火墙限制了出站流量(例如使用
ufw或iptables),请放行到该 API 地址的连接。
SDK 提示缺少 API 密钥
尽管本 API 不使用密钥,OpenAI SDK 仍要求提供。填入任意占位值即可:
export OPENAI_API_KEY="not-needed"
也可以直接传入,例如在 Python 中使用 OpenAI(api_key="not-needed")。
404 或提示“model does not exist”
model 的取值必须与模型列表中的 id 完全一致:
curl http://api.readyserver.ai/v1/models
请求迟迟没有开始响应
算力由所有 ReadyServer VPS 客户共享。服务繁忙时,请求会排队,使用 token 较少的客户将被优先处理。
- 将客户端超时设置得足够长,以便在队列中等待,并使用流式响应。
- 不要对仅仅是响应较慢的请求进行重试:重试只会让队列更长。
- 减少 token 用量:设置
max_tokens;使用qwen3.8-27b时可降低推理强度或关闭思考。 - 如果收到
502或503错误,请使用指数退避策略重试。
算力如何共享,详见公平使用政策。
qwen3.8-27b 响应慢或消耗很多 token
qwen3.8-27b 在作答前会先进行推理,且默认使用最高推理强度。对于较简单的任务,可将 reasoning_effort 设为 "low"、关闭思考,或改用 qwen3.6-27b。详见思考模式。
400:提示词过长
如果错误信息提到最大上下文长度,说明你的提示词加上 max_tokens 超出了模型的上下文窗口(参见模型)。请精简对话历史、概括较早的轮次,或把长文档拆分为更小的片段。
响应被截断
如果 finish_reason 为 "length",说明生成在 max_tokens 或上下文上限处停止。请在限制范围内调高 max_tokens,或要求模型给出更简短的回答。
如果 content 返回为空而不是被截断,且 reasoning 很长,说明推理在回答开始前就用完了全部额度。这是 qwen3.8-27b 在默认推理强度下的表现:请至少给出 4,000 的 max_tokens,或将 reasoning_effort 设为 "low"。详见思考模式。
响应速度慢
较长的回答需要时间生成,服务繁忙时响应也会变慢。请使用流式响应,让最初的 token 尽快到达,并把提示词与 max_tokens 控制在实际所需的范围内。
仍未解决?
请联系 ReadyServer 技术支持,并附上:
- 你的 VPS 主机名或服务 ID
- 你运行的确切命令或代码
- 完整的错误信息
- 发生的时间,并注明所在时区