মূল content-এ যান

GLM · দৃশ্য · GLM-4.6V

GLM-4.6V: বৈশিষ্ট্য, GPU প্রয়োজন, hosting ও deployment

GLM-4.6V is a current Vision release in the GLM family, certified from its immutable official source revision.

Technical deployment reference illustration for GLM-4.6V
Reference deployment flow; exact architecture facts are listed separately.
মোট প্যারামিটার১০৭.৭B
সক্রিয় প্যারামিটার১২.০B
প্রসঙ্গ-উইন্ডো১,৩১,০৭২ tokens
প্রকাশনার অবস্থাবর্তমান · বর্তমান
স্থাপত্যGlm4vMoeForConditionalGeneration
মোডালিটিবহুমাধ্যম
লাইসেন্সmit
স্থাপনার অবস্থাসনদপ্রাপ্ত কনফিগারেশনে স্থাপনযোগ্য
বাণিজ্যিক অবস্থাবাণিজ্যিক ব্যবহার অনুমোদিত
প্রকাশের তারিখ2025-12-07

স্থাপত্য, শক্তির দিক ও ব্যবহার

GLM-4.6V is an official self-hostable Z.ai release in the GLM Vision track. It uses Glm4vMoeForConditionalGeneration, carries 107.71B / 12B MoE, supports a verified context window of 131,072 টোকেন, and exposes only source-certified checkpoint and runtime combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

GLM-4.6V uses Glm4vMoeForConditionalGeneration with 107.71B / 12B MoE. The stored architecture profile records 46 layers, hidden width 4096, 96 attention heads and a 131,072 টোকেন context ceiling where the official configuration publishes those fields.

Verified Glm4vMoeForConditionalGeneration architecture
131,072 টোকেন certified context
Official BF16, FP8, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing

সনদপ্রাপ্ত checkpoint ও quantization

শুধু এই release-এর সঙ্গে যুক্ত নির্দিষ্ট, উৎস-সনদপ্রাপ্ত variant দেখানো হয়।

GLM-4.6V

zai-org/GLM-4.6V

সরকারি · BF16 · safetensors

Runtime সনদপ্রাপ্ত: Transformers vLLM SGLang

Precision / quantizationফরম্যাটবিটপ্রকাশকের বিশ্বাসযোগ্যতাস্থাপনার অবস্থা
BF16safetensors16সরকারিRuntime সনদপ্রাপ্ত

GLM-4.6V-FP8

zai-org/GLM-4.6V-FP8

সরকারি · FP8 · safetensors

Runtime সনদপ্রাপ্ত: Transformers vLLM SGLang

Precision / quantizationফরম্যাটবিটপ্রকাশকের বিশ্বাসযোগ্যতাস্থাপনার অবস্থা
FP8safetensors8সরকারিRuntime সনদপ্রাপ্ত

GLM-4.6V

ZhipuAI/GLM-4.6V

সরকারি · অজানা · unknown

Precision / quantizationফরম্যাটবিটপ্রকাশকের বিশ্বাসযোগ্যতাস্থাপনার অবস্থা

প্রস্তাবিত হার্ডওয়্যার

Use only the listed transformers, vllm, sglang runtime configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, runtime overhead, safety অতিরিক্ত সক্ষমতার অবকাশ, GPU architecture and topology before ranking rentable and reference hardware.

Weight-এর আনুমানিক memory206.64 GB
KV cache1.44 GB
চালনার অতিরিক্ত সম্পদব্যয়52.71 GB
নিরাপত্তা মার্জিনসহ মোট323.38 GB
কারিগরিভাবে সামঞ্জস্যপূর্ণ reference sizing

এই নির্দিষ্ট checkpoint-এর জন্য runtime, স্থাপত্য, topology ও memory—সব শর্ত পূরণ করে এমন FusionPointAI মজুত হার্ডওয়্যার নেই। বিশ্বব্যাপী সামঞ্জস্যপূর্ণ হার্ডওয়্যার দেখতে estimator ব্যবহার করুন।

লাইসেন্স ও নিজস্ব অবকাঠামোয় চালানোর বিবেচনা

The full 107.71B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

GLM-4.6V is published under mit. The release-scoped official license link and verification date are retained with the catalogue record.

বাণিজ্যিক ব্যবহার অনুমোদিত. সরকারি লাইসেন্সে বাণিজ্যিক ব্যবহারের অনুমতি আছে; লাইসেন্সের শর্তগুলো তবুও প্রযোজ্য।

বিকল্প ও একই প্রজন্মের variant

GLM-4.6V Flash, GLM-4.5V, GLM-4.6V

Release-এর সময়রেখা

zai/glm/glm-4-6v

উৎসের বিবরণ

সরকারি উৎস

উৎস revision: 4620f5ad6d0915735654f157ecb5d0183a93b9b0a7a4fece25ab7f3983158f50

ZhipuAI/GLM-4.6V @ 2026-01-20T02:51:15Z

উৎসের বিবরণ

সরকারি উৎস

উৎস revision: 2026-01-20T02:51:15Z

সাধারণ জিজ্ঞাসা

How much VRAM does GLM-4.6V require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible runtime configurations.

Which runtime সহায়তা GLM-4.6V?

Certified upstream runtime evidence is available for transformers, vllm, sglang.

Can GLM-4.6V be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official mit terms for the final obligations.

সরকারি তথ্যসূত্র

সর্বশেষ যাচাই: 2026-09-03