خلاصه
یک شرکت نرمافزاری از مدل متنباز جدید خود رونمایی کرده و میگوید در مصرف انرژی و سرعت پردازش بین دو تا پنج برابر از مدلهای متنباز کنونی جلوتر است.
ادعای کارآمدی بیسابقه
فروشنده میگوید شبکه عصبی تازهاش با لایههای بهینهسازیشده، هم حافظه کمتری میگیرد و هم زمان پاسخگویی را بهشدت کاهش میدهد.
رقابت با مدلهای متنباز
این مدل مستقیماً با Llama، Falcon و Mistral مقایسه شده و در آزمونهای استاندارد LLM، مصرف انرژی کمتر و دقت بالاتر ثبت کرده است.
جزئیات فنی کوتاه
- معماری جدید MoE با فعالسازی هوشمند لایهها
- کاهش ۶۰ درصدی مصرف برق در مقایسه با نسخههای قبلی
- سرعت توکنسازی ۲ تا ۵ برابر بیشتر در GPUهای معمولی
زمان عرضه و دسترسی
نسخه پایه هفته آینده در گیتهاب منتشر میشود و نسخه تجاری با پشتیبانی فنی همزمان در دسترس سازمانها قرار میگیرد.