NightMean /
OlliteRT
Transforme un téléphone Android en serveur LLM local compatible OpenAI, exécutant les modèles sur le GPU ou le CPU de l’appareil. Destiné aux utilisateurs souhaitant une inférence privée et hors ligne, sans compte cloud ni clé d’API.
Résumé écrit par une IA à partir de la description et du README du dépôt.
Mis à jour il y a 17 min
+20 étoiles gagnées cette semaine
Étoiles gagnées chaque jour, sur 30 jours
Rythme habituel · 4 / jour
4 oct.19 oct.Aujourd’hui
Cette semaine Avant Rythme habituel
Sur GitHub
Turn your Android phone into an OpenAI-compatible LLM inference server - Fully local, private and Open Source
La description écrite par ses auteurs sur GitHub.
NightMean / OlliteRT
Voir sur GitHub(nouvel onglet)