Upstar classe toutes les heures les projets GitHub qui montent le plus vite, dans 69 thèmes. Voir les thèmes

vllm-project /

vllm-omni

vLLM-Omni est un framework de service pour les modèles omni-modaux capables de générer du texte, de l’audio, des images et des vidéos. Il s’adresse aux équipes qui ont besoin d’une inférence efficace et extensible pour ces modèles.

Résumé écrit par une IA à partir de la description et du README du dépôt.

n° 91 en Inférence & passerelles LLM Python 7 487 étoiles

Mis à jour il y a 22 min

Pourquoi maintenant

La version v0.32.0 est sortie le 28 octobre.

+122 étoiles gagnées cette semaine

Étoiles gagnées chaque jour, sur 30 jours

Rythme habituel · 15 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel

Sur GitHub

A framework for efficient model inference with omni-modality models

La description écrite par ses auteurs sur GitHub.

vllm-project / vllm-omni
Voir sur GitHub(nouvel onglet)