تطور الذكاء الاصطناعي والأمان: من اختراق Manus إلى تطبيق FHE
لقد حقق مجال الذكاء الاصطناعي مؤخرًا إنجازًا كبيرًا. حقق نظام الذكاء الاصطناعي المسمى Manus نتائج متقدمة في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس المستوى. أظهر Manus قدرات ملحوظة، حيث يمكنه معالجة المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية، والتي تشمل تحليل بنود العقد، وتطوير الاستراتيجيات، وتوليد الحلول.
تتجلى مزايا Manus في ثلاثة جوانب رئيسية: تفكيك الأهداف الديناميكية، الاستدلال عبر الأنماط المختلفة، وكذلك تعزيز الذاكرة في التعلم. يمكنه تقسيم المهام المعقدة إلى مئات من المهام الفرعية القابلة للتنفيذ، في الوقت الذي يعالج فيه أنواعًا متعددة من البيانات، ويعمل على تحسين كفاءة اتخاذ القرار الخاصة به باستمرار من خلال التعلم المعزز، مما يقلل من معدل الخطأ.
ومع ذلك، أثار ظهور Manus نقاشًا داخل الصناعة حول مسار تطوير الذكاء الاصطناعي: هل نسير نحو نظام موحد للذكاء الاصطناعي العام (AGI) أم نمط تعاون للأنظمة متعددة الوكلاء (MAS)؟ في الواقع، يعكس هذا السؤال مشكلة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. مع اقتراب أنظمة الذكاء الاصطناعي الفردية من AGI، تزداد عدم شفافية عملية اتخاذ القرار فيها؛ بينما يمكن أن تقلل الأنظمة متعددة الوكلاء من المخاطر، لكنها قد تفوت لحظات اتخاذ القرار الحاسمة بسبب تأخير التواصل.
لقد زادت تقدمات Manus من المخاطر الكامنة في تطوير الذكاء الاصطناعي. على سبيل المثال، في السياقات الطبية، تحتاج أنظمة الذكاء الاصطناعي إلى الوصول إلى البيانات الحساسة للمرضى؛ وفي المفاوضات المالية، قد تشمل معلومات مالية غير معلنة عن الشركات. بالإضافة إلى ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل التمييز ضد مجموعات معينة أثناء عملية التوظيف. وهناك أيضًا احتمال مواجهة هجمات عدائية، حيث يمكن أن يتدخل المتسللون بوسائل معينة في أحكام أنظمة الذكاء الاصطناعي.
تسلط هذه التحديات الضوء على مسألة رئيسية: كلما كانت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت مساحة الهجوم المحتملة لها.
لمواجهة هذه التحديات الأمنية، تم تقديم عدة حلول في مجال تقنيات التشفير:
نموذج الأمن بعدم الثقة: يستند هذا النموذج إلى مبدأ "لا تثق أبداً، تحقق دائماً"، حيث يتم إجراء تحقق صارم من الهوية وتفويض لكل طلب وصول.
الهوية اللامركزية (DID): هو معيار تعريف الهوية بدون تسجيل مركزي، ويقدم دعمًا مهمًا لنظام Web3 البيئي.
التشفير الكامل المتجانس (FHE): هذه تقنية تشفير متقدمة تسمح بإجراء الحسابات على البيانات في حالة مشفرة، مع حماية الخصوصية أثناء معالجة البيانات.
من بين ذلك، يُعتبر التشفير المتجانس الكامل التقنية الرئيسية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن يلعب دورًا في عدة مجالات كما يلي:
على المستوى البيانات: جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية، الصوت، إلخ) تتم معالجتها في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: من خلال FHE لتحقيق "تدريب نموذج مشفر"، مما يجعل حتى المطورين غير قادرين على فهم عملية اتخاذ القرار الخاصة بالذكاء الاصطناعي بشكل مباشر.
مستوى التعاون: في أنظمة الوكلاء المتعددة، يتم استخدام التشفير بالعتبة للتواصل، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد لا تكون مرتبطة بشكل مباشر بالمستخدمين العاديين، إلا أن لها تأثيرًا غير مباشر على الجميع. في هذا العالم الرقمي المليء بالتحديات، فإن تعزيز تدابير الأمان باستمرار هو وسيلة ضرورية لحماية المصالح الشخصية.
مع اقتراب تقنيات الذكاء الاصطناعي من الذكاء البشري، أصبحت أنظمة الدفاع غير التقليدية أكثر أهمية. لا يمكن أن تحل التشفير الكامل المتجانس فقط مشاكل الأمان الحالية، بل تعد أيضًا إعدادًا لعصر الذكاء الاصطناعي الأقوى في المستقبل. في الطريق نحو الذكاء الاصطناعي العام، لم يعد التشفير الكامل المتجانس خيارًا، بل أصبح ضرورة لضمان التطور الآمن للذكاء الاصطناعي.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
تسجيلات الإعجاب 15
أعجبني
15
3
مشاركة
تعليق
0/400
VitaliksTwin
· منذ 17 س
في النهاية سيتم استبدالنا بالذكاء الاصطناعي~
شاهد النسخة الأصليةرد0
GasGuzzler
· منذ 17 س
Ai ماذا يمكن قوله، يمكنه فعل كل شيء، في وقت مبكر أو متأخر سيقوم بفعلنا.
شاهد النسخة الأصليةرد0
MidnightGenesis
· منذ 17 س
بعد نشرها في وقت متأخر من الليل، تم تتبع بيانات Manus، وعيوب مثيرة للاهتمام ستظهر قريبًا... انتظر بحذر
اختراقات الذكاء الاصطناعي والأمان: صعود نظام مانوس وتقنيات FHE للحماية
تطور الذكاء الاصطناعي والأمان: من اختراق Manus إلى تطبيق FHE
لقد حقق مجال الذكاء الاصطناعي مؤخرًا إنجازًا كبيرًا. حقق نظام الذكاء الاصطناعي المسمى Manus نتائج متقدمة في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس المستوى. أظهر Manus قدرات ملحوظة، حيث يمكنه معالجة المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية، والتي تشمل تحليل بنود العقد، وتطوير الاستراتيجيات، وتوليد الحلول.
تتجلى مزايا Manus في ثلاثة جوانب رئيسية: تفكيك الأهداف الديناميكية، الاستدلال عبر الأنماط المختلفة، وكذلك تعزيز الذاكرة في التعلم. يمكنه تقسيم المهام المعقدة إلى مئات من المهام الفرعية القابلة للتنفيذ، في الوقت الذي يعالج فيه أنواعًا متعددة من البيانات، ويعمل على تحسين كفاءة اتخاذ القرار الخاصة به باستمرار من خلال التعلم المعزز، مما يقلل من معدل الخطأ.
ومع ذلك، أثار ظهور Manus نقاشًا داخل الصناعة حول مسار تطوير الذكاء الاصطناعي: هل نسير نحو نظام موحد للذكاء الاصطناعي العام (AGI) أم نمط تعاون للأنظمة متعددة الوكلاء (MAS)؟ في الواقع، يعكس هذا السؤال مشكلة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. مع اقتراب أنظمة الذكاء الاصطناعي الفردية من AGI، تزداد عدم شفافية عملية اتخاذ القرار فيها؛ بينما يمكن أن تقلل الأنظمة متعددة الوكلاء من المخاطر، لكنها قد تفوت لحظات اتخاذ القرار الحاسمة بسبب تأخير التواصل.
لقد زادت تقدمات Manus من المخاطر الكامنة في تطوير الذكاء الاصطناعي. على سبيل المثال، في السياقات الطبية، تحتاج أنظمة الذكاء الاصطناعي إلى الوصول إلى البيانات الحساسة للمرضى؛ وفي المفاوضات المالية، قد تشمل معلومات مالية غير معلنة عن الشركات. بالإضافة إلى ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل التمييز ضد مجموعات معينة أثناء عملية التوظيف. وهناك أيضًا احتمال مواجهة هجمات عدائية، حيث يمكن أن يتدخل المتسللون بوسائل معينة في أحكام أنظمة الذكاء الاصطناعي.
تسلط هذه التحديات الضوء على مسألة رئيسية: كلما كانت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت مساحة الهجوم المحتملة لها.
لمواجهة هذه التحديات الأمنية، تم تقديم عدة حلول في مجال تقنيات التشفير:
نموذج الأمن بعدم الثقة: يستند هذا النموذج إلى مبدأ "لا تثق أبداً، تحقق دائماً"، حيث يتم إجراء تحقق صارم من الهوية وتفويض لكل طلب وصول.
الهوية اللامركزية (DID): هو معيار تعريف الهوية بدون تسجيل مركزي، ويقدم دعمًا مهمًا لنظام Web3 البيئي.
التشفير الكامل المتجانس (FHE): هذه تقنية تشفير متقدمة تسمح بإجراء الحسابات على البيانات في حالة مشفرة، مع حماية الخصوصية أثناء معالجة البيانات.
من بين ذلك، يُعتبر التشفير المتجانس الكامل التقنية الرئيسية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن يلعب دورًا في عدة مجالات كما يلي:
على المستوى البيانات: جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية، الصوت، إلخ) تتم معالجتها في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: من خلال FHE لتحقيق "تدريب نموذج مشفر"، مما يجعل حتى المطورين غير قادرين على فهم عملية اتخاذ القرار الخاصة بالذكاء الاصطناعي بشكل مباشر.
مستوى التعاون: في أنظمة الوكلاء المتعددة، يتم استخدام التشفير بالعتبة للتواصل، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد لا تكون مرتبطة بشكل مباشر بالمستخدمين العاديين، إلا أن لها تأثيرًا غير مباشر على الجميع. في هذا العالم الرقمي المليء بالتحديات، فإن تعزيز تدابير الأمان باستمرار هو وسيلة ضرورية لحماية المصالح الشخصية.
مع اقتراب تقنيات الذكاء الاصطناعي من الذكاء البشري، أصبحت أنظمة الدفاع غير التقليدية أكثر أهمية. لا يمكن أن تحل التشفير الكامل المتجانس فقط مشاكل الأمان الحالية، بل تعد أيضًا إعدادًا لعصر الذكاء الاصطناعي الأقوى في المستقبل. في الطريق نحو الذكاء الاصطناعي العام، لم يعد التشفير الكامل المتجانس خيارًا، بل أصبح ضرورة لضمان التطور الآمن للذكاء الاصطناعي.