JakeATX /
llamAmpere
Le README requiert Linux, une carte NVIDIA de la série RTX 30 avec 24 Go, et une étape de compilation avant l’exécution. Les modèles tournent localement via des commandes de type llama.cpp.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 18 min
Pourquoi maintenant
La version v0.6.2 est sortie le 1 novembre.
+23 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
Rythme habituel · 2 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel
Sur GitHub
llama.cpp fork for significantly improved performance on Ampere generation Nvidia cards (especially RTX 3090 / 3090 Ti): example: 110+ tok/s over a 100K-token generation at temperature 1 for qwen3.8, supporting full 262K ctx. Supports low memory (12gb) configs for 200k+ ctx
La description écrite par ses auteurs sur GitHub.
JakeATX / llamAmpere
Voir sur GitHub(nouvel onglet)