مقدمة AGI: اختراق نموذج Manus والتحديات الجديدة في أمان الذكاء الاصطناعي
في مجال الذكاء الاصطناعي، حقق نموذج Manus مؤخرًا إنجازًا كبيرًا، حيث وصل إلى مستوى متقدم في اختبار GAIA، وتفوق أداؤه حتى على نماذج اللغة الكبيرة من نفس الفئة. وهذا يعني أن Manus قادر على إتمام مهام معقدة مثل المفاوضات التجارية الدولية بشكل مستقل، والتي تشمل تحليل العقود، والتنبؤ الاستراتيجي، وصياغة الخطط، وحتى تنسيق الفرق القانونية والمالية.
تتمثل مزايا Manus بشكل رئيسي في ثلاثة مجالات: القدرة على تفكيك الأهداف الديناميكية، والقدرة على الاستدلال عبر الأنماط، وقدرة التعلم المعزز بالذاكرة. يمكنه تقسيم المهام الكبيرة إلى مئات من المهام الفرعية القابلة للتنفيذ، في حين يقوم بمعالجة أنواع مختلفة من البيانات، ويعمل على تحسين كفاءة قراراته باستمرار وتقليل معدل الأخطاء من خلال التعلم المعزز.
أثارت تقدمات Manus مرة أخرى مناقشة داخل الصناعة حول مسار تطوير الذكاء الاصطناعي: هل سيظهر مستقبلًا ذكاء اصطناعي عام موحد (AGI) أم ستسود أنظمة متعددة الوكلاء (MAS)؟ تتعلق هذه المسألة بالمفاهيم الأساسية لتصميم Manus، مما يشير إلى اتجاهين محتملين للتطور:
مسار AGI: من خلال تحسين قدرة نظام ذكي واحد باستمرار، مما يجعله يقترب تدريجياً من مستوى اتخاذ القرار الشامل للبشر.
مسار MAS: استخدام Manus كمنسق رئيسي، لتوجيه المئات من الوكلاء المتخصصين للعمل معًا.
ظاهر الأمر هو نقاش حول مسار التكنولوجيا، لكنه يعكس في الجوهر التناقض الجذري في تطوير الذكاء الاصطناعي: كيف يمكن تحقيق التوازن بين الكفاءة والأمان؟ مع اقتراب النظام الذكي الفردي بشكل متزايد من AGI، تزداد أيضًا مخاطر عدم شفافية عملية اتخاذ القرار. وعلى الرغم من أن التعاون بين الوكلاء المتعددين يمكن أن يوزع المخاطر، إلا أنه قد يفوت الفرصة الحاسمة في اتخاذ القرار بسبب تأخير الاتصالات.
تطور Manus بشكل غير مباشر يضخم المخاطر الكامنة في الذكاء الاصطناعي. على سبيل المثال، في سياق الرعاية الصحية، يحتاج إلى الوصول الفوري إلى بيانات الجينوم الخاصة بالمرضى؛ في المفاوضات المالية، قد تتعلق بمعلومات مالية غير معلنة عن الشركات. بالإضافة إلى ذلك، هناك مشكلة التحيز في الخوارزميات، مثل تقديم اقتراحات رواتب غير عادلة لمجموعات معينة في المفاوضات التوظيفية، أو معدل خطأ مرتفع في تقييم شروط الصناعات الناشئة أثناء مراجعة العقود القانونية. والأخطر من ذلك، قد يحتوي Manus على ثغرات تعرضه لهجمات معاكسة، حيث يمكن للقراصنة أن يضللوا حكمه التفاوضي عن طريق إدخال ترددات صوتية معينة.
هذا يبرز واقعًا صارمًا لأنظمة الذكاء الاصطناعي: كلما زادت مستويات الذكاء، زادت السطح المحتمل للهجمات.
في مجال Web3، كانت الأمان دائمًا قضية مركزية. استنادًا إلى نظرية "المثلث المستحيل" التي طرحها فيتاليك بوتيرين (لا يمكن لشبكات blockchain تحقيق الأمان، واللامركزية، والقابلية للتوسع في آن واحد)، ظهرت مجموعة متنوعة من تقنيات التشفير:
نموذج أمان الثقة المعدومة: يركز على مبدأ "لا تثق أبدًا، وحقق دائمًا"، ويجري تحققًا صارمًا من الهوية وتفويضًا لكل طلب وصول.
الهوية اللامركزية (DID): معيار جديد للهوية الرقمية اللامركزية يتيح التحقق من الهوية دون الحاجة إلى تسجيل مركزي.
التشفير المتجانس بالكامل (FHE): يسمح بإجراء العمليات الحسابية على البيانات في حالة مشفرة، دون الحاجة إلى فك تشفير البيانات.
من بين ذلك، تعتبر التشفير الكامل المتجانس كأحدث تقنيات التشفير، وهي تُعتبر مفتاحًا لحل مشاكل الأمان في عصر الذكاء الاصطناعي.
تقدم FHE حلولاً متعددة الجوانب للتحديات الأمنية لأنظمة الذكاء الاصطناعي مثل Manus.
الجانب البيانات: جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية، الصوت، إلخ) تتم معالجتها في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
الجانب الخوارزمي: من خلال FHE تحقيق "تدريب نموذج مشفر"، مما يجعل حتى المطورين غير قادرين على مراقبة عملية اتخاذ قرارات الذكاء الاصطناعي مباشرة.
الجانب التعاوني: يتم استخدام التشفير العتبي للتواصل بين عدة وكلاء، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد تبدو بعيدة عن المستخدمين العاديين، إلا أنها مرتبطة ارتباطًا وثيقًا بمصالح الجميع. في هذا العالم الرقمي المليء بالتحديات، من الصعب التخلص من مخاطر أمان المعلومات دون اتخاذ تدابير دفاعية نشطة.
في مجال الهوية اللامركزية، تم إطلاق مشروع uPort على الشبكة الرئيسية لإيثريوم في عام 2017. وفيما يتعلق بنموذج الأمان بدون ثقة، أطلق مشروع NKN الشبكة الرئيسية في عام 2019. بينما يُعد مشروع Mind Network أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية، وقد تعاون مع مؤسسات معروفة مثل ZAMA وGoogle وDeepSeek.
على الرغم من أن المشاريع الأمنية المبكرة قد لا تكون قد جذبت الانتباه الواسع، إلا أن أهمية مجال الأمان تزداد بشكل متزايد مع التطور السريع لتقنية الذكاء الاصطناعي. هل يمكن لشبكة Mind كسر هذه الاتجاهات لتصبح رائدة في مجال الأمان، يستحق منا متابعة مستمرة.
مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، نحتاج أكثر إلى أنظمة دفاع متقدمة. لا تقتصر قيمة FHE على حل المشكلات الحالية، بل تضع الأساس لعصر الذكاء الاصطناعي القوي في المستقبل. على طريق الوصول إلى AGI، لم يعد FHE خيارًا، بل أصبح شرطًا ضروريًا لضمان تطوير آمن للذكاء الاصطناعي.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
تسجيلات الإعجاب 8
أعجبني
8
4
مشاركة
تعليق
0/400
SandwichVictim
· منذ 5 س
هل هذا حقيقي؟
شاهد النسخة الأصليةرد0
MEVictim
· منذ 5 س
يوغينغ جو - شينتيان بي
شاهد النسخة الأصليةرد0
ForkMonger
· منذ 5 س
vector آخر للتلاعب بالنظام... للتو وجدت استغلال الحوكمة التالي لدينا
نموذج Manus يثير نقاشات حول AGI قد تكون FHE مفتاح أمان الذكاء الاصطناعي
مقدمة AGI: اختراق نموذج Manus والتحديات الجديدة في أمان الذكاء الاصطناعي
في مجال الذكاء الاصطناعي، حقق نموذج Manus مؤخرًا إنجازًا كبيرًا، حيث وصل إلى مستوى متقدم في اختبار GAIA، وتفوق أداؤه حتى على نماذج اللغة الكبيرة من نفس الفئة. وهذا يعني أن Manus قادر على إتمام مهام معقدة مثل المفاوضات التجارية الدولية بشكل مستقل، والتي تشمل تحليل العقود، والتنبؤ الاستراتيجي، وصياغة الخطط، وحتى تنسيق الفرق القانونية والمالية.
تتمثل مزايا Manus بشكل رئيسي في ثلاثة مجالات: القدرة على تفكيك الأهداف الديناميكية، والقدرة على الاستدلال عبر الأنماط، وقدرة التعلم المعزز بالذاكرة. يمكنه تقسيم المهام الكبيرة إلى مئات من المهام الفرعية القابلة للتنفيذ، في حين يقوم بمعالجة أنواع مختلفة من البيانات، ويعمل على تحسين كفاءة قراراته باستمرار وتقليل معدل الأخطاء من خلال التعلم المعزز.
أثارت تقدمات Manus مرة أخرى مناقشة داخل الصناعة حول مسار تطوير الذكاء الاصطناعي: هل سيظهر مستقبلًا ذكاء اصطناعي عام موحد (AGI) أم ستسود أنظمة متعددة الوكلاء (MAS)؟ تتعلق هذه المسألة بالمفاهيم الأساسية لتصميم Manus، مما يشير إلى اتجاهين محتملين للتطور:
مسار AGI: من خلال تحسين قدرة نظام ذكي واحد باستمرار، مما يجعله يقترب تدريجياً من مستوى اتخاذ القرار الشامل للبشر.
مسار MAS: استخدام Manus كمنسق رئيسي، لتوجيه المئات من الوكلاء المتخصصين للعمل معًا.
ظاهر الأمر هو نقاش حول مسار التكنولوجيا، لكنه يعكس في الجوهر التناقض الجذري في تطوير الذكاء الاصطناعي: كيف يمكن تحقيق التوازن بين الكفاءة والأمان؟ مع اقتراب النظام الذكي الفردي بشكل متزايد من AGI، تزداد أيضًا مخاطر عدم شفافية عملية اتخاذ القرار. وعلى الرغم من أن التعاون بين الوكلاء المتعددين يمكن أن يوزع المخاطر، إلا أنه قد يفوت الفرصة الحاسمة في اتخاذ القرار بسبب تأخير الاتصالات.
تطور Manus بشكل غير مباشر يضخم المخاطر الكامنة في الذكاء الاصطناعي. على سبيل المثال، في سياق الرعاية الصحية، يحتاج إلى الوصول الفوري إلى بيانات الجينوم الخاصة بالمرضى؛ في المفاوضات المالية، قد تتعلق بمعلومات مالية غير معلنة عن الشركات. بالإضافة إلى ذلك، هناك مشكلة التحيز في الخوارزميات، مثل تقديم اقتراحات رواتب غير عادلة لمجموعات معينة في المفاوضات التوظيفية، أو معدل خطأ مرتفع في تقييم شروط الصناعات الناشئة أثناء مراجعة العقود القانونية. والأخطر من ذلك، قد يحتوي Manus على ثغرات تعرضه لهجمات معاكسة، حيث يمكن للقراصنة أن يضللوا حكمه التفاوضي عن طريق إدخال ترددات صوتية معينة.
هذا يبرز واقعًا صارمًا لأنظمة الذكاء الاصطناعي: كلما زادت مستويات الذكاء، زادت السطح المحتمل للهجمات.
في مجال Web3، كانت الأمان دائمًا قضية مركزية. استنادًا إلى نظرية "المثلث المستحيل" التي طرحها فيتاليك بوتيرين (لا يمكن لشبكات blockchain تحقيق الأمان، واللامركزية، والقابلية للتوسع في آن واحد)، ظهرت مجموعة متنوعة من تقنيات التشفير:
من بين ذلك، تعتبر التشفير الكامل المتجانس كأحدث تقنيات التشفير، وهي تُعتبر مفتاحًا لحل مشاكل الأمان في عصر الذكاء الاصطناعي.
تقدم FHE حلولاً متعددة الجوانب للتحديات الأمنية لأنظمة الذكاء الاصطناعي مثل Manus.
الجانب البيانات: جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية، الصوت، إلخ) تتم معالجتها في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
الجانب الخوارزمي: من خلال FHE تحقيق "تدريب نموذج مشفر"، مما يجعل حتى المطورين غير قادرين على مراقبة عملية اتخاذ قرارات الذكاء الاصطناعي مباشرة.
الجانب التعاوني: يتم استخدام التشفير العتبي للتواصل بين عدة وكلاء، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد تبدو بعيدة عن المستخدمين العاديين، إلا أنها مرتبطة ارتباطًا وثيقًا بمصالح الجميع. في هذا العالم الرقمي المليء بالتحديات، من الصعب التخلص من مخاطر أمان المعلومات دون اتخاذ تدابير دفاعية نشطة.
في مجال الهوية اللامركزية، تم إطلاق مشروع uPort على الشبكة الرئيسية لإيثريوم في عام 2017. وفيما يتعلق بنموذج الأمان بدون ثقة، أطلق مشروع NKN الشبكة الرئيسية في عام 2019. بينما يُعد مشروع Mind Network أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية، وقد تعاون مع مؤسسات معروفة مثل ZAMA وGoogle وDeepSeek.
على الرغم من أن المشاريع الأمنية المبكرة قد لا تكون قد جذبت الانتباه الواسع، إلا أن أهمية مجال الأمان تزداد بشكل متزايد مع التطور السريع لتقنية الذكاء الاصطناعي. هل يمكن لشبكة Mind كسر هذه الاتجاهات لتصبح رائدة في مجال الأمان، يستحق منا متابعة مستمرة.
مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، نحتاج أكثر إلى أنظمة دفاع متقدمة. لا تقتصر قيمة FHE على حل المشكلات الحالية، بل تضع الأساس لعصر الذكاء الاصطناعي القوي في المستقبل. على طريق الوصول إلى AGI، لم يعد FHE خيارًا، بل أصبح شرطًا ضروريًا لضمان تطوير آمن للذكاء الاصطناعي.