O LM Playground foi projetado como uma plataforma universal para experimentar vários tipos de Large Language Models (LLMs) em seu dispositivo. Ele permite que os usuários baixem diferentes LLMs, carreguem-nos no aplicativo e conversem com esses modelos. Esta configuração permite uma exploração prática das capacidades e distinções entre diferentes LLMs, tornando-se uma ferramenta inestimável para entusiastas, pesquisadores ou qualquer pessoa curiosa sobre os avanços na tecnologia de modelos de linguagem.
Modelos atualmente suportados:
• Meta Lhama 3.2 1B e 3B
• Qwen 2,5 0,5B e 1,5B
• Google Gemma2 2B e 9B
•Microsoft Phi3.5
• Mistral 7B
• Lhama 3.1 8B
Este projeto foi construído com base no projeto llama.cpp com otimização OpenCL para melhor desempenho. O aplicativo utiliza modelos no formato GGUF com quantização Q4KM, que serão salvos na pasta Downloads.