skyzh /
tiny-llm
Un cours pratique qui construit une petite pile d’inférence et de service de LLM pour les modèles Qwen sur Apple Silicon, à partir de tableaux MLX sans couches de réseaux de neurones de haut niveau.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 8 min
Vous maintenez ce dépôt ? Ajoutez ce badge à votre README.
Pourquoi maintenant
+730 étoiles gagnées cette semaine
48× son rythme habituel
Étoiles gagnées chaque jour, sur 30 jours
Rythme habituel · 2 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel
Sur GitHub
learn LLM inference system on Apple Silicon for systems engineers: build a tiny vLLM + Qwen
La description écrite par ses auteurs sur GitHub.
skyzh / tiny-llm
Voir sur GitHub(nouvel onglet)