Upstar classe toutes les heures les projets GitHub qui montent le plus vite, dans 69 thèmes. Voir les thèmes

nsbradley88 /

talus-public

Il nécessite une machine AMD Strix Halo (Ryzen AI Max+ 395, Radeon 8060S) avec 128 Go de mémoire unifiée, et expose les modèles via une API HTTP compatible OpenAI. Les benchmarks et contrôles qualité sont dans docs/RESULTS.md.

Résumé écrit par une IA à partir de la description et du README du dépôt.

n° 35 en LLM en local Rust 30 étoiles Nouveau

Mis à jour il y a 22 min

Pourquoi maintenant

La version v0.1.1 est sortie le 31 octobre.

+30 étoiles gagnées cette semaine

Étoiles gagnées chaque jour, sur 30 jours

4 oct.19 oct.Aujourd’hui
Cette semaine Avant

Sur GitHub

Rust LLM inference engine tuned for AMD Strix Halo (gfx1151): a fork of Strata with ggml/llama.cpp-derived HIP kernels. Five models on one 128 GB machine.

La description écrite par ses auteurs sur GitHub.

nsbradley88 / talus-public
Voir sur GitHub(nouvel onglet)