تحقيق تنفيذ أولي لخادم Lenovo AI على المستوى المحلي لنموذج DeepSeek الكبير بحجم أقل من 1 تيرابايت، مع دعم 100 توازي

بيانات Jinshi في 3 مارس: في الآونة الأخيرة، أعلنت مجموعة Lenovo أنها نجحت لأول مرة في الصناعة في نشر نموذج كبير DeepSeek-R1/V3 671B على خادم Lenovo WAT7790 G3 على نطاق واسع، بحيث يمكن لمستخدمين 100 التمتع بتجربة سلسة مع ذاكرة وصول عشوائي تبلغ 768 جيجابايت، وهي أقل بكثير من 1 تيرابايت المعترف بها في الصناعة. حسب البيانات التجريبية الفعلية لشركة Lenovo، في بيئة اختبار قياسية تحتوي على 512 TOKEN، يمكن للنظام دعم 100 مستخدم متزامن للحصول على إخراج مستقر بمعدل 10 TOKEN في الثانية، مع ضغط على وقت الاستجابة الأولية إلى TOKEN داخل 30 ثانية.

شاهد النسخة الأصلية
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • أعجبني
  • 1
  • مشاركة
تعليق
0/400
Andruchovip
· 03-03 05:30
المؤلف ممتاز!!!
شاهد النسخة الأصليةرد0
  • تثبيت