Документация по AI Hosting
Выберите модель и конфигурацию оборудования, ознакомьтесь с предварительной оценкой и запросите коммерческое предложение на размещение рабочих нагрузок ИИ в инфраструктуре FusionPointAI.
- Определите параметры нагрузкиЗафиксируйте модель, контекст, параллельность и требования к обслуживанию запросов.
- Сравните моделиПроверьте общедоступные версии моделей и опубликованные сведения о них.
- Подберите оборудованиеСопоставьте доступные конфигурации GPU с требованиями к памяти.
- Ознакомьтесь с рекомендациейУкажите требования к нагрузке, чтобы получить подходящую отправную конфигурацию.
- Запросите предложениеПроверьте предлагаемый состав услуги и отправьте запрос через доступную форму.
Подготовьте требования к нагрузке
Начните с задачи, которую должна решать модель, и уровня чувствительности данных. Укажите нужное семейство моделей или возможности, ожидаемую длину контекста, число одновременных запросов, характер входных и выходных данных, а также необходимость выделенного обслуживания или дополнительной настройки. Отделите обязательные требования от пожеланий. Это поможет осмысленно сравнить предложения каталога и даст рекомендации достаточно контекста, не предполагая заранее, что для любого развёртывания подойдёт одна и та же модель или GPU.
- Запишите ожидаемую длину контекста и параллельную нагрузку.
- Укажите требования к обработке данных, региону и развёртыванию.
- Отдельно отметьте обязательные возможности и дополнительные пожелания.
Сравните модели и оборудование
Перед запросом конфигурации сократите список вариантов с помощью общедоступных каталогов моделей и оборудования. Изучайте сведения о конкретных версиях, а не только о семействе моделей, и сопоставляйте возможности оборудования с описанной нагрузкой. Запись в каталоге помогает сделать выбор, но не является обещанием производительности. Если нагрузка зависит от отсутствующей в каталоге модели, специального программного обеспечения или определённой ёмкости, укажите это требование, а не делайте предположений о совместимости.
- Откройте версию модели и ознакомьтесь с опубликованными сведениями.
- Сравните доступные конфигурации GPU и данные об объёме памяти.
- Составьте короткий список подходящих вариантов и укажите причины выбора.
Получите рекомендацию и оценку
Страницы рекомендаций и оценки помогают преобразовать требования в возможный состав услуги. Заполните поля с параметрами нагрузки и перед использованием оценки проверьте все допущения. Оценка не подтверждает резервирование ресурсов и не является окончательным коммерческим обязательством. Если в предложенной конфигурации нет нужной модели, не учтено ограничение развёртывания или отсутствует важная эксплуатационная возможность, измените исходные данные либо укажите этот пробел в запросе предложения.
- Отправьте параметры нагрузки на странице рекомендаций.
- Проверьте допущения конфигурации и указанные ограничения.
- Сравните возможные варианты с помощью формы оценки.
Запросите предложение и проверьте его
Если общедоступная форма предлагает подходящую конфигурацию, запросите предложение и проверьте его состав перед дальнейшими действиями. Если для отправки запроса требуется учётная запись, войдите в систему. Убедитесь, что в предложении указаны нужная модель или нагрузка, оборудование, разовые и регулярные платежи, а также обязанности клиента. Не делайте выводов о сроках поставки, доступности, уровне сервиса или включённых работах, если они прямо не указаны в предложении или согласованной документации. До принятия предложения попросите отдел продаж разъяснить нерешённые вопросы.
- При появлении запроса войдите в систему и отправьте запрос предложения.
- Сравните письменное предложение с исходными требованиями.
- До принятия уточните все исключения и допущения.
Часто задаваемые вопросы
AI Hosting размещается на моём веб-сервере?
Нет. AI Hosting предназначен для рабочих нагрузок, размещённых в инфраструктуре FusionPointAI. Это не услуга веб-хостинга или предоставления VPS.
Можно выбрать любую модель или GPU?
Выбор ограничен моделями, версиями и вариантами оборудования, представленными в действующих каталогах и форме конфигурации. Запросите консультацию по требованиям, которых там нет.
Рекомендация или оценка резервирует ресурсы?
Нет. Используйте их для планирования. Предлагаемый состав и коммерческие условия определяются предложением и последующим письменным соглашением.
Какие сведения включить в запрос предложения?
Опишите модель или задачу, требования к контексту и параллельной нагрузке, ограничения по данным, желаемый способ развёртывания и влияющие на состав услуги эксплуатационные требования.