Yi-1.5-34B-Chat
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: Transformers
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
Yi · Allgemein · Yi 1.5
Yi 1.5 34B: Daten, GPU-Bedarf, Hosting und Bereitstellung
Yi 1.5 34B ist eine Veraltet-Version im Allgemein-Zweig der Yi-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter34,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusVeraltet · Veraltet
ArchitekturDense Transformer
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2024-05-10
Architektur, Stärken und Einsatzbereiche
Yi 1.5 34B ist eine offizielle selbst hostbare 01.AI-Version im Zweig Yi Allgemein. Sie nutzt Dense Transformer mit 34B und 131,072 geprüften Kontext-Token.
Yi 1.5 34B nutzt Dense Transformer mit 34B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.
Geprüfte Dense Transformer-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher65.23 GB
KV cache2 GB
Laufzeitaufwand16.92 GB
Gesamt mit Sicherheitsreserve104.34 GB
Empfohlenes Preis-Leistungs-Verhältnis
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
55.66 GB Reserve · Verfügbar
USD 1.830 / MonatGünstigste geeignete Option
5× NVIDIA L4 24GB
120 GB VRAM gesamt · pcie
15.66 GB Reserve · Verfügbar
USD 1.250 / MonatHöchste Leistung
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
55.66 GB Reserve · Verfügbar
USD 1.830 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 34 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Yi 1.5 34B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Versionsverlauf
01-ai/yi/yi-1-5-34b
Quellendetails
Quellrevision: df4f4134237446ef11fb6dfc47b88c245cb9defef8dc1617249150af93f0b863
Häufige Fragen
Wie viel VRAM benötigt Yi 1.5 34B?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Yi 1.5 34B?
Geprüfte Upstream-Belege liegen für transformers vor.
Darf Yi 1.5 34B kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26