بالنظر إلى استمرار ChatGPT في الانفجار لعدة أشهر ، دخلت خلالها عمالقة التكنولوجيا مثل Microsoft و Google و Meta إلى اللعبة واحدًا تلو الآخر ، فقد أعلنت شركة Intel أخيرًا عن "منافستها" رسميًا.
خلال عطلة نهاية الأسبوع ، في المؤتمر الدولي للحوسبة الفائقة (ISC) عالي الأداء (HPC) في هامبورغ ، ألمانيا ، لم تظهر إنتل ريادتها في أعباء عمل HPC و AI فحسب ، بل أعلنت أيضًا عن خطة مفاجئة: تعاونت Tribute National Laboratory على تطوير نموذج الذكاء الاصطناعي التوليدي Aurora genAI مع الكمبيوتر الفائق Aurora ، وسيصل عدد المعلمات إلى 1 تريليون!
اعلم أن حجم معلمة ChatGPT يبلغ 175 مليار فقط ، أي أن نموذج Aurora genAI سيكون أكبر 5 مرات منه على الأقل.
(صورة من موقع إنتل الرسمي)
** سيتم تشغيل طراز AI بواسطة حوسبة Aurora الفائقة **
من المفهوم أن نموذج Intel Aurora genAI سيعتمد على إطارين: ميجاترون من NVIDIA و Microsoft DeepSpeed.
▶ ميجاترون: بنية للتدريب الموزع لنماذج لغوية واسعة النطاق ، مُحسَّنة خصيصًا لـ Transformer ، لا تدعم فقط توازي البيانات في التدريب الموزع التقليدي ، ولكنها تدعم أيضًا نموذج التوازي.
▶ DeepSpeed: ركز على تحسين تدريب نماذج التعلم العميق على نطاق واسع.من خلال تحسين المقياس والسرعة والتكلفة والتوافر ، فإنه يطلق القدرة على تدريب 100 مليار نموذج متغير ويعزز بشكل كبير تدريب النماذج واسعة النطاق.
بالإضافة إلى هذين الإطارين ، سيتم تشغيل نموذج Aurora genAI أيضًا بواسطة الكمبيوتر الفائق Aurora - وهو الكمبيوتر العملاق Intel المصمم لمختبر Argonne الوطني ، والذي تم تشكيله أخيرًا بعد تأخيرات مختلفة.
وفقًا للمعلومات العامة الحالية ، يتم تشغيل الكمبيوتر الفائق Aurora بواسطة شرائح Intel Xeon CPU Max و Xeon GPU Max ، بإجمالي 10،624 عقدة ، و 63،744 وحدة معالجة رسومات Ponte Vecchio ، و 21،248 Sapphire Rapids Xeon CPUs ، و 1،024 موزعًا غير متزامن لتخزين الكائنات (DAOS) ) عُقد التخزين و 10.9 بيتابايت من ذاكرة DDR5 Optane الثابتة.
بالإضافة إلى ذلك ، كشفت Intel أيضًا عن نتائج الأداء المبكرة للحاسوب الفائق Aurora: "تتميز الحوسبة الفائقة Aurora بأداء رائد في أحمال العمل العلمية والهندسية ، وأداء ضعف أداء وحدة معالجة الرسومات AMD MI250 ، وتحسين تطبيقات ميكانيكا الكم QMCPACK مقارنة بـ H100". 20٪ و تحجيم خطي تقريبًا لمئات العقد ".
من الجدير بالذكر أنه بالمقارنة مع الهدف الأصلي لـ 1 Exaflop ، من المتوقع أنه عند إطلاق الكمبيوتر العملاق Aurora هذا العام ، سيوفر أداء حوسبة نقطية عائمة مزدوجة الدقة لأكثر من 2 Exaflop - أكثر من Frontier ، والتي احتلت المرتبة الأولى مرارًا وتكرارًا في قائمة Top500 العالمية للحوسبة الفائقة ، كما أن الحواسيب العملاقة (1.194 Exaflop / s) أعلى من ذلك.
** نموذج الذكاء الاصطناعي التوليدي المركّز على العلم **
مع الأساس القوي للحوسبة الفائقة Aurora ، من المقدر ألا يكون حجم نموذج Aurora genAI صغيرًا. وفقًا لمقدمة Intel الرسمية ، يقود مختبر Argonne National Laboratory تعاونًا دوليًا لنموذج Aurora genAI.
قال ريك ستيفنز ، نائب مدير المختبر في أرغون: "يهدف هذا المشروع إلى تسخير الإمكانات الكاملة للحاسوب الفائق Aurora لتوليد مورد يمكن استخدامه في علم المصب في مختبرات وزارة الطاقة وبالتعاون مع وكالات أخرى".
بشكل عام ، يعد Aurora genAI نموذجًا توليديًا للذكاء الاصطناعي يركز على العلم ، لذلك سيتم تدريبه على نص عام ورمز ونص علمي وبيانات علمية من علم الأحياء والكيمياء وعلوم المواد والفيزياء والطب ، إلخ.
يمكن استخدام نماذج الذكاء الاصطناعي الناتجة ، مع ما يصل إلى 1 تريليون معلمة ، بدءًا من تصميم الجزيئات والمواد إلى المعرفة المشتركة لملايين المصادر ، في مجموعة متنوعة من التطبيقات العلمية: بيولوجيا الأنظمة ، وأبحاث السرطان ، وعلوم المناخ ، وأبحاث علم الكونيات ، كيمياء البوليمر والمواد ، إلخ. إلى جانب العلم ، يمكن استخدام نماذج Aurora genAI في مجالات أخرى ، مثل النمذجة المالية ، ومعالجة اللغة الطبيعية ، والترجمة الآلية ، والتعرف على الصور ، والتعرف على الكلام ، من بين أمور أخرى.
** مخطط لإنجازه في عام 2024 **
بالإضافة إلى ذلك ، لم يتم إفساد المزيد من المعلومات حول طراز Aurora genAI حتى الآن ، ولكن وفقًا لتقارير وسائل الإعلام الأجنبية ، تخطط Intel لتطوير وإكمال نموذج Aurora genAI في عام 2024 - إذا سارت الأمور على ما يرام ، فربما لن ننتظر طويلاً.
جذب إصدار هذا الخبر انتباه العديد من الأشخاص ، وأعلن دخول إنتل في نموذج الذكاء الاصطناعي عن بدء تريليون معلمة ، مما يجعل الناس يتطلعون إلى التطوير المستقبلي للمنتجات المنافسة مثل GPT-4:
▶ "يجب أن تكون معلمة التريليون حدًا خاصًا ، ولكن يمكنك أيضًا أن تكون متشككًا وتقول إنه مجرد رقم صحيح ضخم يجب الاهتمام به. لا شك في أنه إذا كان هذا النموذج مشابهًا لـ GPT-4 ، فسيؤدي ذلك إلى إضافة نقطة بيانات . ولكن مع إعلان الشركات عن ذلك والإعلان عن ذلك ، أتساءل عما إذا كنا سنبلغ ذروتها في يونيو ".
▶ "يقوم الأشخاص ببناء أنظمة جديدة باستخدام H100 ، وهناك بالفعل وحدات معالجة رسومات AI أفضل بكثير ، وإذا استمر ذلك ، فقد تحتاج NVIDIA إلى الإعلان عن بطاقة جديدة في وقت أقرب للبقاء في المقدمة."
▶ "أعتقد أن GPT-4 لن يستمر في الحفاظ على SOTA (يشير إلى أفضل طريقة أو نموذج في مهمة محددة) في العديد من الاختبارات المعيارية قريبًا ، وربما سيكون كذلك في العالم في المستقبل. أسرع كمبيوتر فائق للتدريب. كمرجع ، يحتوي كمبيوتر OpenAI العملاق على حوالي 10000 وحدة معالجة رسومات ، بينما يحتوي Aurora على 63744 وحدة معالجة رسومات. "
ارتباط مرجعي:
شاهد النسخة الأصلية
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
5 مرات أكبر من ChatGPT! أعلنت إنتل رسميًا عن نموذج كبير للذكاء الاصطناعي بحجم 1 تريليون متغير ، ومن المقرر أن يكتمل في عام 2024
تنظيم | Zheng Liyuan
القائمة | CSDN (المعرف: CSDNnews)
بالنظر إلى استمرار ChatGPT في الانفجار لعدة أشهر ، دخلت خلالها عمالقة التكنولوجيا مثل Microsoft و Google و Meta إلى اللعبة واحدًا تلو الآخر ، فقد أعلنت شركة Intel أخيرًا عن "منافستها" رسميًا.
خلال عطلة نهاية الأسبوع ، في المؤتمر الدولي للحوسبة الفائقة (ISC) عالي الأداء (HPC) في هامبورغ ، ألمانيا ، لم تظهر إنتل ريادتها في أعباء عمل HPC و AI فحسب ، بل أعلنت أيضًا عن خطة مفاجئة: تعاونت Tribute National Laboratory على تطوير نموذج الذكاء الاصطناعي التوليدي Aurora genAI مع الكمبيوتر الفائق Aurora ، وسيصل عدد المعلمات إلى 1 تريليون!
اعلم أن حجم معلمة ChatGPT يبلغ 175 مليار فقط ، أي أن نموذج Aurora genAI سيكون أكبر 5 مرات منه على الأقل.
** سيتم تشغيل طراز AI بواسطة حوسبة Aurora الفائقة **
من المفهوم أن نموذج Intel Aurora genAI سيعتمد على إطارين: ميجاترون من NVIDIA و Microsoft DeepSpeed.
▶ ميجاترون: بنية للتدريب الموزع لنماذج لغوية واسعة النطاق ، مُحسَّنة خصيصًا لـ Transformer ، لا تدعم فقط توازي البيانات في التدريب الموزع التقليدي ، ولكنها تدعم أيضًا نموذج التوازي.
▶ DeepSpeed: ركز على تحسين تدريب نماذج التعلم العميق على نطاق واسع.من خلال تحسين المقياس والسرعة والتكلفة والتوافر ، فإنه يطلق القدرة على تدريب 100 مليار نموذج متغير ويعزز بشكل كبير تدريب النماذج واسعة النطاق.
بالإضافة إلى هذين الإطارين ، سيتم تشغيل نموذج Aurora genAI أيضًا بواسطة الكمبيوتر الفائق Aurora - وهو الكمبيوتر العملاق Intel المصمم لمختبر Argonne الوطني ، والذي تم تشكيله أخيرًا بعد تأخيرات مختلفة.
وفقًا للمعلومات العامة الحالية ، يتم تشغيل الكمبيوتر الفائق Aurora بواسطة شرائح Intel Xeon CPU Max و Xeon GPU Max ، بإجمالي 10،624 عقدة ، و 63،744 وحدة معالجة رسومات Ponte Vecchio ، و 21،248 Sapphire Rapids Xeon CPUs ، و 1،024 موزعًا غير متزامن لتخزين الكائنات (DAOS) ) عُقد التخزين و 10.9 بيتابايت من ذاكرة DDR5 Optane الثابتة.
من الجدير بالذكر أنه بالمقارنة مع الهدف الأصلي لـ 1 Exaflop ، من المتوقع أنه عند إطلاق الكمبيوتر العملاق Aurora هذا العام ، سيوفر أداء حوسبة نقطية عائمة مزدوجة الدقة لأكثر من 2 Exaflop - أكثر من Frontier ، والتي احتلت المرتبة الأولى مرارًا وتكرارًا في قائمة Top500 العالمية للحوسبة الفائقة ، كما أن الحواسيب العملاقة (1.194 Exaflop / s) أعلى من ذلك.
** نموذج الذكاء الاصطناعي التوليدي المركّز على العلم **
مع الأساس القوي للحوسبة الفائقة Aurora ، من المقدر ألا يكون حجم نموذج Aurora genAI صغيرًا. وفقًا لمقدمة Intel الرسمية ، يقود مختبر Argonne National Laboratory تعاونًا دوليًا لنموذج Aurora genAI.
قال ريك ستيفنز ، نائب مدير المختبر في أرغون: "يهدف هذا المشروع إلى تسخير الإمكانات الكاملة للحاسوب الفائق Aurora لتوليد مورد يمكن استخدامه في علم المصب في مختبرات وزارة الطاقة وبالتعاون مع وكالات أخرى".
بشكل عام ، يعد Aurora genAI نموذجًا توليديًا للذكاء الاصطناعي يركز على العلم ، لذلك سيتم تدريبه على نص عام ورمز ونص علمي وبيانات علمية من علم الأحياء والكيمياء وعلوم المواد والفيزياء والطب ، إلخ.
يمكن استخدام نماذج الذكاء الاصطناعي الناتجة ، مع ما يصل إلى 1 تريليون معلمة ، بدءًا من تصميم الجزيئات والمواد إلى المعرفة المشتركة لملايين المصادر ، في مجموعة متنوعة من التطبيقات العلمية: بيولوجيا الأنظمة ، وأبحاث السرطان ، وعلوم المناخ ، وأبحاث علم الكونيات ، كيمياء البوليمر والمواد ، إلخ. إلى جانب العلم ، يمكن استخدام نماذج Aurora genAI في مجالات أخرى ، مثل النمذجة المالية ، ومعالجة اللغة الطبيعية ، والترجمة الآلية ، والتعرف على الصور ، والتعرف على الكلام ، من بين أمور أخرى.
** مخطط لإنجازه في عام 2024 **
بالإضافة إلى ذلك ، لم يتم إفساد المزيد من المعلومات حول طراز Aurora genAI حتى الآن ، ولكن وفقًا لتقارير وسائل الإعلام الأجنبية ، تخطط Intel لتطوير وإكمال نموذج Aurora genAI في عام 2024 - إذا سارت الأمور على ما يرام ، فربما لن ننتظر طويلاً.
جذب إصدار هذا الخبر انتباه العديد من الأشخاص ، وأعلن دخول إنتل في نموذج الذكاء الاصطناعي عن بدء تريليون معلمة ، مما يجعل الناس يتطلعون إلى التطوير المستقبلي للمنتجات المنافسة مثل GPT-4:
▶ "يجب أن تكون معلمة التريليون حدًا خاصًا ، ولكن يمكنك أيضًا أن تكون متشككًا وتقول إنه مجرد رقم صحيح ضخم يجب الاهتمام به. لا شك في أنه إذا كان هذا النموذج مشابهًا لـ GPT-4 ، فسيؤدي ذلك إلى إضافة نقطة بيانات . ولكن مع إعلان الشركات عن ذلك والإعلان عن ذلك ، أتساءل عما إذا كنا سنبلغ ذروتها في يونيو ".
▶ "يقوم الأشخاص ببناء أنظمة جديدة باستخدام H100 ، وهناك بالفعل وحدات معالجة رسومات AI أفضل بكثير ، وإذا استمر ذلك ، فقد تحتاج NVIDIA إلى الإعلان عن بطاقة جديدة في وقت أقرب للبقاء في المقدمة."
▶ "أعتقد أن GPT-4 لن يستمر في الحفاظ على SOTA (يشير إلى أفضل طريقة أو نموذج في مهمة محددة) في العديد من الاختبارات المعيارية قريبًا ، وربما سيكون كذلك في العالم في المستقبل. أسرع كمبيوتر فائق للتدريب. كمرجع ، يحتوي كمبيوتر OpenAI العملاق على حوالي 10000 وحدة معالجة رسومات ، بينما يحتوي Aurora على 63744 وحدة معالجة رسومات. "
ارتباط مرجعي: