glm53-flash-cmp170hx-recipe
Le README détaille l’installation par conteneur, les correctifs de noyaux Ampere et le drafter spéculatif optionnel. Il suppose quatre cartes CMP 170HX et un hôte doté de Docker, le moteur restant dans le conteneur.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 10 min
+2 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
Sur GitHub
GLM-5.3-Flash on 4× NVIDIA CMP 170HX with vLLM: up to 482.6 tok/s single-user, up to 943.7 tok/s at 8 users, 262K context, TP4 or PP4, one-command container install
La description écrite par ses auteurs sur GitHub.