flashmap

Il nécessite torch et transformers 4.56 ou plus récent, et le service via SGLang ou vLLM demande une installation supplémentaire. Il s’utilise comme bibliothèque Python sur des modèles Hugging Face, le drafter étant chargé avec un modèle cible.

Résumé écrit par une IA à partir de la description et du README du dépôt.