Leonccaa /
ReVolta
Nécessite au moins quatre GPU V100 de 32 Go reliés par NVLink ou par un même commutateur PCIe avec P2P, sous Linux x86-64 avec un pilote NVIDIA CUDA 12.8. Il expose une API compatible OpenAI via une commande de type vllm.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 14 min
Pourquoi maintenant
La version v0.1.4 est sortie le 27 octobre.
+21 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
4 oct.19 oct.Aujourd’hui
Cette semaine Avant
Sur GitHub
Stable, high-throughput inference server for multi-GPU NVIDIA V100 (SM70): Qwen3.8 Flash-Next with AWQ / NVFP4, multimodal input, CPU/disk KV offload, and MTP or DFlash2 speculative decoding.
La description écrite par ses auteurs sur GitHub.
Leonccaa / ReVolta
Voir sur GitHub(nouvel onglet)