LM Playground est conçu comme une plate-forme universelle permettant d'expérimenter différents types de grands modèles linguistiques (LLM) sur votre appareil. Il permet aux utilisateurs de télécharger différents LLM, de les charger sur l'application et de converser avec ces modèles. Cette configuration permet une exploration pratique des capacités et des distinctions entre les différents LLM, ce qui en fait un outil inestimable pour les passionnés, les chercheurs ou toute personne curieuse de connaître les progrès de la technologie des modèles de langage.
Modèles actuellement pris en charge :
• Méta-lama 3.2 1B et 3B
• Qwen 2.5 0.5B et 1.5B
• Google Gemma2 2B et 9B
• Microsoft Phi3.5
•Mistral 7B
• Lama 3.1 8B
Ce projet a été construit sur la base du projet llama.cpp avec optimisation OpenCL pour de meilleures performances. L'application utilise des modèles au format GGUF avec quantification Q4KM, qui seront enregistrés dans le dossier Téléchargements.