ignis
Le README précise le matériel visé (RTX 5090 ou RTX PRO 6000 Blackwell, Windows ou Linux), les étapes de démarrage et le serveur compatible OpenAI pour connecter des agents de code et des clients.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 1 h
+15 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
Sur GitHub
OpenAI-compatible inference server for Qwen3.8 on one RTX 5090 / RTX PRO 6000: the 27B at ~170 tok/s (peaks ~370), Flash-Next (125B MoE) at ~100 tok/s, built for local coding agents. Rust + CUDA, Windows and Linux.
La description écrite par ses auteurs sur GitHub.