rednote-machine-learning /
RedKnot
Le README porte surtout sur une branche de développement et un harnais de benchmark ; l’exécution GPU cible NVIDIA SM100, un portage H200/SM90 se choisit via un indicateur runtime-root, et l’exécution native optimisée reste à venir.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 13 min
Pourquoi maintenant
+328 étoiles gagnées cette semaine
3× son rythme habituel
Étoiles gagnées chaque jour, sur 30 jours
Rythme habituel · 15 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel
Sur GitHub
Efficient Long-Context LLM Serving with Head-Aware KV Reuse and SegPagedAttention
La description écrite par ses auteurs sur GitHub.
rednote-machine-learning / RedKnot
Voir sur GitHub(nouvel onglet)