Upstar classe toutes les heures les projets GitHub qui montent le plus vite, dans 69 thèmes. Voir les thèmes

bpx03 /

QEngine

Le README couvre une image Docker, un serveur Python avec des API compatibles OpenAI et Anthropic, et une variante Flash-Next acceptant des images, fonctionnant sur 2 ou 3 RTX 3090. Il n’indique pas de procédure d’installation hors Docker.

Résumé écrit par une IA à partir de la description et du README du dépôt.

n° 59 en Inférence & passerelles LLM Cuda 34 étoiles

Mis à jour il y a 13 min

Pourquoi maintenant

La version v1.3.1 est sortie le 30 octobre.

+27 étoiles gagnées cette semaine

Étoiles gagnées chaque jour, sur 30 jours

4 oct.19 oct.Aujourd’hui
Cette semaine Avant

Sur GitHub

Source-available C++/CUDA inference engine for Qwen3.8-27B INT4 on 3x RTX 3090

La description écrite par ses auteurs sur GitHub.

bpx03 / QEngine
Voir sur GitHub(nouvel onglet)