poisonxa16 /
pxa
Destiné aux propriétaires de GPU Pascal ou Volta souhaitant un serveur local compatible OpenAI. Il tourne sur votre propre matériel sans compte, et les quants PXQ/PXQN se trouvent dans MODELS.md.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 1 min
Pourquoi maintenant
La version v4.0.0 est sortie le 30 octobre.
+18 étoiles gagnées cette semaine
2× son rythme habituel
Étoiles gagnées chaque jour, sur 30 jours
Rythme habituel · 1 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel
Sur GitHub
The set-and-forget LLM engine for Pascal and Volta: PXQ codec + kernels, auto-tuned per card. Ready-to-run PXQ models in MODELS.md; benchmarks vs llama.cpp in the README.
La description écrite par ses auteurs sur GitHub.
poisonxa16 / pxa
Voir sur GitHub(nouvel onglet)