LM Playground

LM Playground 被設計為一個通用平台，用於在您的裝置上試驗各種類型的大型語言模型 (LLM)。它允許用戶下載不同的法學碩士，將它們載入到應用程式中，並與這些模型進行對話。這種設置允許動手探索不同法學碩士之間的功能和區別，使其成為愛好者、研究人員或任何對語言模型技術進步感到好奇的人的寶貴工具。

目前支援的型號：
• 元駱駝 3.2 1B 和 3B
• Qwen 2.5 0.5B 和 1.5B
• Google Gemma2 2B 和 9B
• 微軟Phi3.5
• 米斯特拉爾 7B
• 駱駝 3.1 8B

該專案基於 llama.cpp 專案構建，並經過 OpenCL 優化以獲得更好的效能。該應用程式使用具有 Q4KM 量化的 GGUF 格式模型，該模型將保存到「下載」資料夾中。