Upstar classe toutes les heures les projets GitHub qui montent le plus vite, dans 69 thèmes. Voir les thèmes

vllm-project /

vllm-ascend

Le README couvre l’installation du plugin pour NPU Ascend, la liste des modèles pris en charge et la matrice de compatibilité, avec des guides pour le matériel Huawei. Il s’adresse aux utilisateurs qui exécutent vLLM sur les puces Ascend.

Résumé écrit par une IA à partir de la description et du README du dépôt.

n° 132 en Inférence & passerelles LLM Python 3 039 étoiles

Mis à jour il y a 17 min

Pourquoi maintenant

La version v0.30.0 est sortie le 29 octobre.

+25 étoiles gagnées cette semaine

Étoiles gagnées chaque jour, sur 30 jours

Rythme habituel · 5 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel

Sur GitHub

Community maintained hardware plugin for vLLM on Huawei Ascend

La description écrite par ses auteurs sur GitHub.

vllm-project / vllm-ascend
Voir sur GitHub(nouvel onglet)