Перейти к основному содержимому

Gemma · Общий · Gemma 3

Gemma 3 12B IT: характеристики, требования к GPU, хостинг и развертывание

Gemma 3 12B IT — версия Недавний направления Общий семейства Gemma, подтвержденная официальной ревизией.

Техническая схема развертывания Gemma 3 12B IT
Эталонный поток; точные данные указаны отдельно.
Всего параметров12,0B
Активные параметрыПлотная модель
Окно контекста128 000 tokens
Статус версииНедавний · Недавний
АрхитектураDense Transformer
МодальностиТекст, Изображение
ЛицензияУсловия использования Gemma
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено с условиями
Дата выпуска2025-03-01

Архитектура, преимущества и сценарии

Gemma 3 12B IT — официальная модель Google для самостоятельного хостинга в направлении Gemma Общий. Архитектура Dense Transformer, 12B и проверенный контекст 128,000 токенов.

Gemma 3 12B IT использует Dense Transformer с 12B. Профиль содержит 64 слоев, ширину 8192 и 64 голов внимания, если они опубликованы.

Проверенная архитектура Dense Transformer
Сертифицированный контекст 128,000 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

gemma-3-12b-it

google/gemma-3-12b-it

Официальный · BF16 · safetensors

Проверенная среда выполнения: Transformers

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов23.02 GB
KV-кэш2 GB
Накладные расходы среды выполнения9.22 GB
Итого с запасом42.47 GB

Рекомендуемое соотношение цены и качества

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

98.53 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Самый дешевый подходящий вариант

2× NVIDIA L4 24GB

48 GB общая VRAM · pcie

5.53 GB запаса · Доступно

USD 500 / месяц

Максимальная производительность

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

98.53 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Лицензия и самостоятельный хостинг

Все 12 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

Gemma 3 12B IT опубликована под лицензией Условия использования Gemma. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено с условиями. Коммерческое использование допускается на условиях. Перед развертыванием изучите официальные условия по ссылке.

Альтернативы и варианты одного поколения

Gemma 3 27B IT, Gemma 4 12B IT, Gemma 4 31B IT, Gemma 4 26B-A4B IT

История версии

google/gemma/gemma-3-12b-it

Сведения об источнике

Официальный источник

Ревизия источника: 4f0c195eeedeb238fd660bbc25f073a1b0fb4f1d8adb8d2f8103e12cb2defc46

Частые вопросы

Сколько VRAM требуется для Gemma 3 12B IT?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают Gemma 3 12B IT?

Официальные подтверждения сертифицированы для transformers.

Можно ли использовать Gemma 3 12B IT коммерчески?

Сохраненная классификация: Коммерческое использование разрешено с условиями. Смотрите официальные условия Условия использования Gemma.

Официальные источники

Последняя проверка: 2026-08-26