LM Playground

LM Playground 被设计为一个通用平台，用于在您的设备上试验各种类型的大型语言模型 (LLM)。它允许用户下载不同的法学硕士，将它们加载到应用程序中，并与这些模型进行对话。这种设置允许动手探索不同法学硕士之间的功能和区别，使其成为爱好者、研究人员或任何对语言模型技术进步感到好奇的人的宝贵工具。

目前支持的型号：
• 元骆驼 3.2 1B 和 3B
• Qwen 2.5 0.5B 和 1.5B
• Google Gemma2 2B 和 9B
• 微软Phi3.5
• 米斯特拉尔 7B
• 骆驼 3.1 8B

该项目基于 llama.cpp 项目构建，并经过 OpenCL 优化以获得更好的性能。该应用程序使用具有 Q4KM 量化的 GGUF 格式模型，该模型将保存到“下载”文件夹中。