SlyBase /
vllm-sly-radiance
Une image Docker vLLM pour exécuter Qwen3.8-27B sur une seule carte AMD Radeon AI PRO R9700, avec des noyaux MXFP4 personnalisés et du décodage spéculatif. Destinée aux utilisateurs qui veulent une inférence locale rapide sur du matériel RDNA4.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 22 min
Pourquoi maintenant
La version v1.9.1 est sortie le 29 octobre.
+12 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
Rythme habituel · 3 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel
Sur GitHub
Working on the fastest vllm path for AMD Radeon AI PRO R9700
La description écrite par ses auteurs sur GitHub.
SlyBase / vllm-sly-radiance
Voir sur GitHub(nouvel onglet)