LM Playground

एलएम प्लेग्राउंड को आपके डिवाइस पर विभिन्न प्रकार के बड़े भाषा मॉडल (एलएलएम) के साथ प्रयोग करने के लिए एक सार्वभौमिक मंच के रूप में डिज़ाइन किया गया है। यह उपयोगकर्ताओं को विभिन्न एलएलएम डाउनलोड करने, उन्हें एप्लिकेशन पर लोड करने और इन मॉडलों के साथ बातचीत करने की अनुमति देता है। यह सेटअप विभिन्न एलएलएम के बीच क्षमताओं और अंतरों की व्यावहारिक खोज की अनुमति देता है, जिससे यह उत्साही लोगों, शोधकर्ताओं या भाषा मॉडल प्रौद्योगिकी में प्रगति के बारे में उत्सुक किसी भी व्यक्ति के लिए एक अमूल्य उपकरण बन जाता है।

वर्तमान में समर्थित मॉडल:
• मेटा लामा 3.2 1बी और 3बी
• क्वेन 2.5 0.5बी और 1.5बी
• Google Gemma2 2B और 9B
• माइक्रोसॉफ्ट Phi3.5
• मिस्ट्रल 7बी
• लामा 3.1 8बी

यह प्रोजेक्ट बेहतर प्रदर्शन के लिए ओपनसीएल अनुकूलन के साथ llama.cpp प्रोजेक्ट पर आधारित बनाया गया था। एप्लिकेशन Q4KM परिमाणीकरण के साथ GGUF-प्रारूप मॉडल का उपयोग करता है, जिसे डाउनलोड फ़ोल्डर में सहेजा जाएगा।