ReadyServer VPS 免费包含

私有 LLM API,内置于你的 VPS

在 ReadyServer 私有网络内运行的开源模型上,构建 AI 智能体、RAG 流程与聊天机器人。兼容 OpenAI 接口,无需 API 密钥,也不按 token 计费。

现已提供 Qwen3.6-27B 与 Qwen3.8-27B,更多模型即将上线。

$ curl http://api.readyserver.ai/v1/chat/completions \
    -H "Content-Type: application/json" \
    -d '{
      "model": "qwen3.6-27b",
      "messages": [
        {"role": "user", "content": "Hello from my VPS!"}
      ]
    }'

{"choices": [{"message": {"role": "assistant",
  "content": "Hello! What are you building today?"}}]}
示例:在 ReadyServer VPS 上用 curl 调用 LLM API

有何不同

随服务器一同附带的 LLM API

无需管理密钥,也没有计量账单。只要你的应用运行在 ReadyServer VPS 上,就可以调用该 API。

无需 API 密钥

访问权限来自你的 VPS 接入我们的私有网络。没有密钥需要创建、轮换或担心泄露。

不按 token 计费

该 API 已包含在你的 VPS 中。我们不计量 token,而是在客户之间公平分配算力。

兼容 OpenAI

可直接使用官方 OpenAI SDK,或任何支持自定义 base URL 的工具。

运行在私有网络内

请求通过 ReadyServer 的私有网络从你的 VPS 到达推理服务器,不经过公共互联网。

工作方式

从开通 VPS 到收到第一个响应,只需几分钟

  1. 开通 ReadyServer VPS

    readyserver.sg 上的每个套餐都包含 LLM API 的访问权限,无需额外配置。

  2. 将代码指向该 API

    在任意兼容 OpenAI 的 SDK 或工具中设置私有 base URL。API 密钥填任意占位值即可。

  3. 开始构建

    无需盯着 token 计量,即可交付智能体、聊天机器人、RAG 检索与自动化流程。

查看快速入门 →

模型

通过 vLLM 提供的开源模型

目前提供两款 Qwen 模型,更多模型陆续推出。

应用场景

你可以构建什么

  • AI 智能体

    为智能体提供用于规划与调用工具的模型,并与它所自动化的服务部署在一起。

  • RAG 与检索

    基于你自己的文档回答问题,数据与模型都留在 ReadyServer 网络内。

  • 编程智能体

    在你的 VPS 上运行编程智能体与开发者工具,对接兼容 OpenAI 的接口。

  • 自动化

    在服务器上的工作流与定时任务中进行摘要、分类与数据抽取。

  • 聊天机器人

    为托管在你 VPS 上的客服机器人与内部助手提供模型能力。

公平共享

公平共享,人人都有机会

该 API 运行在 ReadyServer VPS 客户共享的算力之上。我们不按 token 收费,而是通过公平共享政策,避免任何单一负载挤占其他人的资源。

阅读公平使用政策

  • 使用流式响应并设置 max_tokens,让所有人都更快。
  • 服务繁忙时请退避后重试。
  • 繁忙时请求会排队,使用 token 较少的客户将被优先处理。

与 ReadyServer AI 社区一起构建

我们即将为使用本地大模型、智能体与 AI 工具的开发者开设论坛。今天就准备好你的 VPS。