LM Playground

LM Playground は、デバイス上でさまざまなタイプの大規模言語モデル (LLM) を実験するためのユニバーサル プラットフォームとして設計されています。これにより、ユーザーはさまざまな LLM をダウンロードしてアプリケーションにロードし、これらのモデルと対話できるようになります。この設定により、さまざまな LLM 間の機能と違いを実践的に調べることができるため、愛好家、研究者、または言語モデル テクノロジの進歩に興味がある人にとって非常に貴重なツールになります。

現在サポートされているモデル:
• メタラマ 3.2 1B および 3B
• クウェン 2.5 0.5B および 1.5B
• Google Gemma2 2B および 9B
• Microsoft Phi3.5
•ミストラル7B
• ラマ 3.1 8B

このプロジェクトは、パフォーマンスを向上させるために OpenCL 最適化を使用して llama.cpp プロジェクトに基づいて構築されました。アプリケーションは、Q4KM 量子化を備えた GGUF 形式のモデルを使用しており、ダウンロード フォルダーに保存されます。