Falcon-H1-34B-Instruct
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: Transformers
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
Falcon · Allgemein · Falcon-H1
Falcon-H1 34B: Daten, GPU-Bedarf, Hosting und Bereitstellung
Falcon-H1 34B ist eine Aktuell-Version im Allgemein-Zweig der Falcon-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter34,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusAktuell · Aktuell
ArchitekturDense Transformer
ModalitätenText
LizenzFalcon LLM-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung unter Auflagen erlaubt
Veröffentlichungsdatum2025-05-01
Architektur, Stärken und Einsatzbereiche
Falcon-H1 34B ist eine offizielle selbst hostbare Technology Innovation Institute-Version im Zweig Falcon Allgemein. Sie nutzt Dense Transformer mit 34B und 131,072 geprüften Kontext-Token.
Falcon-H1 34B nutzt Dense Transformer mit 34B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.
Geprüfte Dense Transformer-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher65.23 GB
KV cache2 GB
Laufzeitaufwand16.92 GB
Gesamt mit Sicherheitsreserve104.34 GB
Empfohlenes Preis-Leistungs-Verhältnis
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
55.66 GB Reserve · Verfügbar
USD 1.830 / MonatGünstigste geeignete Option
5× NVIDIA L4 24GB
120 GB VRAM gesamt · pcie
15.66 GB Reserve · Verfügbar
USD 1.250 / MonatHöchste Leistung
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
55.66 GB Reserve · Verfügbar
USD 1.830 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 34 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Falcon-H1 34B wird unter Falcon LLM-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung unter Auflagen erlaubt. Die kommerzielle Nutzung ist an Bedingungen geknüpft. Prüfen Sie vor der Bereitstellung die verlinkten offiziellen Bedingungen.
Versionsverlauf
tii/falcon/falcon-h1-34b
Quellendetails
Quellrevision: e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
Häufige Fragen
Wie viel VRAM benötigt Falcon-H1 34B?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Falcon-H1 34B?
Geprüfte Upstream-Belege liegen für transformers vor.
Darf Falcon-H1 34B kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung unter Auflagen erlaubt. Maßgeblich sind die offiziellen Falcon LLM-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26