تفكير في مسار تطوير الذكاء الاصطناعي نتيجة الأداء المتميز لنموذج Manus
مؤخراً، حقق نموذج Manus إنجازاً رائداً في اختبارات GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس الفئة. وهذا يعني أن Manus قادر على إتمام مهام معقدة مثل المفاوضات التجارية الدولية بشكل مستقل، والتي تتضمن تحليل شروط العقود، وتطوير الاستراتيجيات، وتوليد الحلول، بل ويمكنه أيضاً تنسيق فرق القانون والمالية.
تتمثل مزايا Manus بشكل أساسي في ثلاثة مجالات: القدرة على تحليل الأهداف الديناميكية، وقدرة الاستدلال عبر الأنماط، وقدرة التعلم المعزز للذاكرة. يمكنه تقسيم المهام المعقدة إلى مئات من المهام الفرعية القابلة للتنفيذ، في حين يتعامل مع أنواع متعددة من البيانات، ويعزز بشكل مستمر من كفاءة اتخاذ القرار ويقلل من معدل الأخطاء من خلال التعلم المعزز.
هذا التقدم الثوري أثار مرة أخرى النقاش في مجال الذكاء الاصطناعي حول مسارات التطور المستقبلية: هل نتجه نحو تطوير الذكاء الاصطناعي العام (AGI) أم أنظمة متعددة الوكلاء (MAS) ستتولى القيادة بشكل تعاوني؟
تشير فلسفة تصميم Manus إلى احتماليتين: الأولى هي مسار AGI، من خلال تحسين مستوى الذكاء الفردي باستمرار ليقترب من القدرة الشاملة على اتخاذ القرارات البشرية؛ والثانية هي مسار MAS، حيث يعمل كمنسق فائق يقود آلاف الوكلاء الذكيين المتخصصين للعمل معًا.
على السطح، هذه مناقشة حول مسار التكنولوجيا، لكنها في الواقع تعكس التناقض العميق بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. كلما اقترب الذكاء الفردي من AGI، زادت مخاطر عدم شفافية عملية اتخاذ القرار؛ بينما يمكن أن يؤدي التعاون بين الوكلاء المتعددين إلى توزيع المخاطر، لكنه قد يفوت الفرص الحاسمة بسبب تأخير الاتصال.
لقد عزز تقدم Manus أيضًا المخاطر الكامنة في تطوير الذكاء الاصطناعي، بما في ذلك قضايا الخصوصية البيانية، والتحيز في الخوارزميات، والهجمات العدائية. على سبيل المثال، في السيناريوهات الطبية، يحتاج Manus إلى الوصول إلى البيانات الحساسة للمرضى؛ وفي المفاوضات المالية، قد تشمل المعلومات المالية الخاصة بالشركات غير المعلنة. في عملية التوظيف، قد تظهر تمييزات في الرواتب تجاه مجموعات معينة؛ وعند مراجعة العقود القانونية، قد يكون هناك معدل خطأ مرتفع في تقييم شروط الصناعات الناشئة. بالإضافة إلى ذلك، قد يتمكن القراصنة من التلاعب بحكم Manus في المفاوضات من خلال زرع ترددات صوتية معينة.
تسلط هذه التحديات الضوء على حقيقة مقلقة: كلما زادت ذكاء أنظمة الذكاء الاصطناعي، زادت أيضًا مساحة الهجوم المحتملة.
في مجال Web3، كانت الأمان دائمًا محور التركيز الأساسي. تحت إطار "المثلث المستحيل" الذي اقترحه مؤسس الإيثيريوم فيتاليك بوتيرين (لا يمكن لشبكات البلوكشين تحقيق الأمان واللامركزية وقابلية التوسع في آن واحد)، نشأت مجموعة متنوعة من التقنيات المشفرة:
نموذج الأمان صفر الثقة: يستند إلى فكرة "لا تثق بأحد، تحقق دائمًا"، ويتطلب التحقق الصارم من الهوية والتفويض لكل طلب وصول.
الهوية اللامركزية (DID): معيار جديد للهوية الرقمية اللامركزية يتيح التحقق من الهوية دون الحاجة إلى هيئة تسجيل مركزية.
التشفير المتجانس الكلي (FHE): يسمح بإجراء عمليات حسابية على البيانات في حالة مشفرة، مما يحمي خصوصية البيانات أثناء تحقيق قيمة البيانات.
تُعتبر FHE من بين هذه التقنيات أداة هامة لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكنها تقديم الحماية على مستويات متعددة:
على مستوى البيانات: تتم معالجة جميع المعلومات التي يدخلها المستخدمون (بما في ذلك الخصائص البيولوجية والصوت وما إلى ذلك) في حالة مشفرة، حتى أن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: تحقيق "تدريب نموذج مشفر" من خلال FHE، لضمان عدم تعرّض عملية اتخاذ القرارات لدى الذكاء الاصطناعي للتطفل الخارجي.
جانب التعاون: تستخدم الاتصالات بين عدة عوامل ذكية تشفير العتبة، ولن يؤدي اختراق عقدة واحدة إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد لا ترتبط مباشرة بالمستخدمين العاديين، إلا أن لها تأثيرات عميقة على مصالحهم. في هذا البيئة المليئة بالتحديات، من الضروري تحسين تدابير الأمان باستمرار.
بعض المشاريع حققت تقدمًا في هذه المجالات. على سبيل المثال، أطلقت uPort حل الهوية اللامركزية في عام 2017، بينما أصدرت NKN الشبكة الرئيسية المعتمدة على نموذج الثقة الصفرية في عام 2019. وفي مجال FHE، أصبحت Mind Network أول مشروع يطلق الشبكة الرئيسية ويتعاون مع العديد من المؤسسات المعروفة.
مع اقتراب تقنية الذكاء الاصطناعي من مستوى الذكاء البشري، أصبحت الأنظمة الدفاعية غير التقليدية أكثر أهمية. لا تحل تقنيات مثل FHE المشكلات الحالية فحسب، بل تؤسس أيضًا لحقبة الذكاء الاصطناعي القوي في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، أصبحت هذه التقنيات الأمنية عناصر لا غنى عنها.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 6
أعجبني
6
3
مشاركة
تعليق
0/400
CascadingDipBuyer
· 07-20 21:01
كلهم يُستغل بغباء.
شاهد النسخة الأصليةرد0
MetadataExplorer
· 07-20 20:59
هم؟ الأنظمة متعددة الوكلاء ليست موثوقة جدًا
شاهد النسخة الأصليةرد0
consensus_whisperer
· 07-20 20:36
الذكاء الاصطناعي أصبح في المقدمة، من يهتم بالمخاطر بعد الآن؟
أثارت اختراقات نموذج مانوس تفكيرًا في مسارات تطوير الذكاء الاصطناعي. قد تصبح تقنيات الأمان في Web3 مفتاحًا.
تفكير في مسار تطوير الذكاء الاصطناعي نتيجة الأداء المتميز لنموذج Manus
مؤخراً، حقق نموذج Manus إنجازاً رائداً في اختبارات GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس الفئة. وهذا يعني أن Manus قادر على إتمام مهام معقدة مثل المفاوضات التجارية الدولية بشكل مستقل، والتي تتضمن تحليل شروط العقود، وتطوير الاستراتيجيات، وتوليد الحلول، بل ويمكنه أيضاً تنسيق فرق القانون والمالية.
تتمثل مزايا Manus بشكل أساسي في ثلاثة مجالات: القدرة على تحليل الأهداف الديناميكية، وقدرة الاستدلال عبر الأنماط، وقدرة التعلم المعزز للذاكرة. يمكنه تقسيم المهام المعقدة إلى مئات من المهام الفرعية القابلة للتنفيذ، في حين يتعامل مع أنواع متعددة من البيانات، ويعزز بشكل مستمر من كفاءة اتخاذ القرار ويقلل من معدل الأخطاء من خلال التعلم المعزز.
هذا التقدم الثوري أثار مرة أخرى النقاش في مجال الذكاء الاصطناعي حول مسارات التطور المستقبلية: هل نتجه نحو تطوير الذكاء الاصطناعي العام (AGI) أم أنظمة متعددة الوكلاء (MAS) ستتولى القيادة بشكل تعاوني؟
تشير فلسفة تصميم Manus إلى احتماليتين: الأولى هي مسار AGI، من خلال تحسين مستوى الذكاء الفردي باستمرار ليقترب من القدرة الشاملة على اتخاذ القرارات البشرية؛ والثانية هي مسار MAS، حيث يعمل كمنسق فائق يقود آلاف الوكلاء الذكيين المتخصصين للعمل معًا.
على السطح، هذه مناقشة حول مسار التكنولوجيا، لكنها في الواقع تعكس التناقض العميق بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. كلما اقترب الذكاء الفردي من AGI، زادت مخاطر عدم شفافية عملية اتخاذ القرار؛ بينما يمكن أن يؤدي التعاون بين الوكلاء المتعددين إلى توزيع المخاطر، لكنه قد يفوت الفرص الحاسمة بسبب تأخير الاتصال.
لقد عزز تقدم Manus أيضًا المخاطر الكامنة في تطوير الذكاء الاصطناعي، بما في ذلك قضايا الخصوصية البيانية، والتحيز في الخوارزميات، والهجمات العدائية. على سبيل المثال، في السيناريوهات الطبية، يحتاج Manus إلى الوصول إلى البيانات الحساسة للمرضى؛ وفي المفاوضات المالية، قد تشمل المعلومات المالية الخاصة بالشركات غير المعلنة. في عملية التوظيف، قد تظهر تمييزات في الرواتب تجاه مجموعات معينة؛ وعند مراجعة العقود القانونية، قد يكون هناك معدل خطأ مرتفع في تقييم شروط الصناعات الناشئة. بالإضافة إلى ذلك، قد يتمكن القراصنة من التلاعب بحكم Manus في المفاوضات من خلال زرع ترددات صوتية معينة.
تسلط هذه التحديات الضوء على حقيقة مقلقة: كلما زادت ذكاء أنظمة الذكاء الاصطناعي، زادت أيضًا مساحة الهجوم المحتملة.
في مجال Web3، كانت الأمان دائمًا محور التركيز الأساسي. تحت إطار "المثلث المستحيل" الذي اقترحه مؤسس الإيثيريوم فيتاليك بوتيرين (لا يمكن لشبكات البلوكشين تحقيق الأمان واللامركزية وقابلية التوسع في آن واحد)، نشأت مجموعة متنوعة من التقنيات المشفرة:
نموذج الأمان صفر الثقة: يستند إلى فكرة "لا تثق بأحد، تحقق دائمًا"، ويتطلب التحقق الصارم من الهوية والتفويض لكل طلب وصول.
الهوية اللامركزية (DID): معيار جديد للهوية الرقمية اللامركزية يتيح التحقق من الهوية دون الحاجة إلى هيئة تسجيل مركزية.
التشفير المتجانس الكلي (FHE): يسمح بإجراء عمليات حسابية على البيانات في حالة مشفرة، مما يحمي خصوصية البيانات أثناء تحقيق قيمة البيانات.
تُعتبر FHE من بين هذه التقنيات أداة هامة لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكنها تقديم الحماية على مستويات متعددة:
على مستوى البيانات: تتم معالجة جميع المعلومات التي يدخلها المستخدمون (بما في ذلك الخصائص البيولوجية والصوت وما إلى ذلك) في حالة مشفرة، حتى أن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: تحقيق "تدريب نموذج مشفر" من خلال FHE، لضمان عدم تعرّض عملية اتخاذ القرارات لدى الذكاء الاصطناعي للتطفل الخارجي.
جانب التعاون: تستخدم الاتصالات بين عدة عوامل ذكية تشفير العتبة، ولن يؤدي اختراق عقدة واحدة إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد لا ترتبط مباشرة بالمستخدمين العاديين، إلا أن لها تأثيرات عميقة على مصالحهم. في هذا البيئة المليئة بالتحديات، من الضروري تحسين تدابير الأمان باستمرار.
بعض المشاريع حققت تقدمًا في هذه المجالات. على سبيل المثال، أطلقت uPort حل الهوية اللامركزية في عام 2017، بينما أصدرت NKN الشبكة الرئيسية المعتمدة على نموذج الثقة الصفرية في عام 2019. وفي مجال FHE، أصبحت Mind Network أول مشروع يطلق الشبكة الرئيسية ويتعاون مع العديد من المؤسسات المعروفة.
مع اقتراب تقنية الذكاء الاصطناعي من مستوى الذكاء البشري، أصبحت الأنظمة الدفاعية غير التقليدية أكثر أهمية. لا تحل تقنيات مثل FHE المشكلات الحالية فحسب، بل تؤسس أيضًا لحقبة الذكاء الاصطناعي القوي في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، أصبحت هذه التقنيات الأمنية عناصر لا غنى عنها.