Architecture, points forts et usages
Llama 4 Scout 17B-16E est une version officielle auto-hébergeable de Meta dans la branche Meta Llama Général. Elle utilise MoE Transformer avec 109B / 17B MoE et un contexte vérifié de 10,000,000 tokens.
Llama 4 Scout 17B-16E utilise MoE Transformer avec 109B / 17B MoE. Le profil vérifié indique 64 couches, une largeur cachée de 8192 et 64 têtes d’attention lorsque ces valeurs sont publiées.
Architecture MoE Transformer vérifiée
Contexte certifié de 10,000,000 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs