NVIDIA /
spark-local-inference
Mis à jour il y a 15 min
+74 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
4 oct.19 oct.Aujourd’hui
Cette semaine Avant
En bref
Il nécessite un GPU NVIDIA de type Blackwell, SM120 ou SM121, comme le DGX Spark, ainsi que PyTorch, FlashInfer et une chaîne d’outils Rust. C’est un prototype de recherche et un serveur d’inférence local pour les longues conversations et les agents de code.
Résumé écrit par une IA à partir de la description et du README du dépôt.
NVIDIA / spark-local-inference
Voir sur GitHub(nouvel onglet)