MNN Chat

Это приложение для Android, использующее мультимодальную языковую модель (LLM).

Поддержка мультимодальных моделей: обеспечивает функциональность для решения различных задач, включая преобразование текста в текст, изображений в текст, аудио в текст и генерацию текста в изображения (с помощью моделей диффузии).

Оптимизация вывода ЦП: MNN-LLM демонстрирует исключительную производительность в бенчмарках ЦП на Android.

Широкая совместимость с моделями: поддерживает множество ведущих поставщиков моделей, таких как Qwen, Gemma, Llama (включая TinyLlama и MobileLLM), Baichuan, Yi, DeepSeek, InternLM, Phi, ReaderLM и Smolm.

Конфиденциальность прежде всего: работает полностью на устройстве, обеспечивая полную конфиденциальность данных без передачи информации на внешние серверы.