LM Playground

LM Playground ist als universelle Plattform zum Experimentieren mit verschiedenen Arten von Large Language Models (LLMs) auf Ihrem Gerät konzipiert. Es ermöglicht Benutzern, verschiedene LLMs herunterzuladen, sie in die Anwendung zu laden und mit diesen Modellen zu kommunizieren. Dieses Setup ermöglicht eine praktische Erkundung der Fähigkeiten und Unterschiede zwischen verschiedenen LLMs und macht es zu einem unschätzbar wertvollen Werkzeug für Enthusiasten, Forscher und alle, die sich für die Fortschritte in der Sprachmodelltechnologie interessieren.

Derzeit unterstützte Modelle:
• Meta Llama 3.2 1B und 3B
• Qwen 2,5 0,5B und 1,5B
• Google Gemma2 2B und 9B
• Microsoft Phi3.5
• Mistral 7B
• Lama 3.1 8B

Dieses Projekt wurde basierend auf dem Projekt llama.cpp mit OpenCL-Optimierung für eine bessere Leistung erstellt. Die Anwendung verwendet Modelle im GGUF-Format mit Q4KM-Quantisierung, die im Ordner „Downloads“ gespeichert werden.