Googleفارسی‌دوستپیشنهادیtext-generation
Gemma 2
نسخه‌ای سبک و چندمنظوره برای گفت‌وگو، خلاصه‌سازی و استقرار سریع در محیط‌های محدود.
توضیحات
Gemma 2 برای استفاده محلی، آزمایش سریع و سناریوهای آموزشی انتخاب مناسبی است. این نسخه چند بیلد رایج دارد و برای استقرار روی Ollama و LM Studio آماده شده است.
کاربردها
- • چت فارسی
- • خلاصه‌سازی درس
- • پروتوتایپ سریع
نقاط قوت
- • راه‌اندازی ساده
- • اکوسیستم وسیع
- • مناسب لپ‌تاپ
محدودیت‌ها
- • کانتکست محدودتر از مدل‌های بزرگ‌تر
- • نیاز به کوانت مناسب برای CPU
تنوع‌ها
2B Instruct Q4_K_M
اصلی2BInstructQ4_K_MOllamaGGUF
قابل اجرا روی CPU
9B Instruct Q4_K_M
9BInstructQ4_K_MLM StudioGGUF
بهتر است 16GB RAM داشته باشید