跳到主要内容
全部文档

AI Hosting 文档

为运行在 FusionPointAI 基础设施上的托管 AI 工作负载选择模型和硬件配置、查看估算,并申请报价。

操作流程
  1. 明确工作负载记录模型、上下文长度、并发量和服务需求。
  2. 比较模型查看公开发布的模型版本及其已公布的信息。
  3. 核对硬件根据内存需求比较可用的 GPU 配置。
  4. 查看方案建议提交工作负载要求,获取量身定制的初步方案。
  5. 申请报价核对建议的服务范围,并通过可用的报价流程提交申请。

整理工作负载需求

先明确模型需要完成的任务,以及工作负载涉及的数据敏感程度。记录所需的模型系列或能力、预期上下文长度、并发请求量、输入和输出模式,以及是否需要专属推理服务或配套定制。请将硬性要求与偏好分开列出。这些信息有助于有效比较目录中的选项,也能让方案建议流程获得足够背景,而不必假设某一种 GPU 或模型适用于所有部署。

  1. 记录预期的上下文长度和并发工作负载。
  2. 明确数据处理、区域和部署方面的限制。
  3. 将必需能力与可选偏好分开标注。

比较模型和硬件

申请配置前,先利用公开的模型和硬件目录缩小候选范围。查看具体发布版本的信息,不要只依据模型系列名称作判断;同时,将硬件容量与您描述的工作负载进行对照。目录条目仅用于辅助选择,并非性能承诺。如果工作负载依赖目录中未列出的模型、特殊软件或特定容量配置,请明确说明,不要自行猜测兼容性。

  1. 打开模型的具体发布版本并查看已公布的详情。
  2. 比较可用的 GPU 配置及内存信息。
  3. 列出少量候选项,并说明各自可能适用的原因。

获取方案建议和估算

方案建议和估算页面可帮助您将需求转化为候选服务范围。请按照页面提供的字段填写工作负载详情,并仔细查看返回结果中的假设,再判断估算是否有参考价值。估算不代表已确认预留资源,也不是最终商业承诺。如果建议配置未涵盖必需模型、部署限制或运营需求,请修改输入,或在申请报价时说明差距。

  1. 在方案建议页面提交工作负载详情。
  2. 查看配置所依据的假设及明确列出的限制。
  3. 通过估算流程比较可行的配置方案。

申请并核对报价

如果公开流程提供了合适的配置,请申请报价,并在继续前核对其范围。报价操作要求账户登录时,请先登录。确认报价中列出的模型或工作负载、硬件、经常性费用和一次性费用,以及客户需要承担的责任。除非报价或双方认可的文档明确写明,否则不要自行推断交付日期、资源可用性、服务级别或包含的运营工作。接受报价前,请让销售团队澄清尚未解决的依赖事项。

  1. 按提示登录并提交报价申请。
  2. 将书面报价与最初的需求逐项对照。
  3. 接受前,询问报价未包含的内容或所依据的假设。

常见问题

AI 托管会运行在我自己的 Web 服务器上吗?

不会。AI 托管面向运行在 FusionPointAI 基础设施上的工作负载,不是 Web 托管或 VPS 开通服务。

我可以任意选择模型或 GPU 吗?

只能从实时目录和配置流程中展示的模型、发布版本及硬件选项中选择。若有未列出的需求,请另行咨询。

方案建议或估算是否代表已预留资源?

不代表。请将其视为规划参考。拟议范围和商业条款以报价及后续书面协议为准。

申请报价时应提供哪些信息?

请说明模型或任务、上下文和并发需求、数据限制、期望的部署方式,以及会影响服务范围的运营要求。

相关页面