ماذا يعني mixture of experts؟

بشكل مبسط يعتبر مصطلح Mixture of Experts هو تقنية في مجال التعلم الآلي والذكاء الاصطناعي تعتمد على تقسيم نموذج ذكاء اصطناعي إلى مجموعة من الشبكات الفرعية المتخصصة، تسمى "الخبراء" (experts)، حيث يتعامل كل خبير مع جزء محدد من البيانات أو المشكلة.

ويتكون نموذج mixture of experts من مكونين رئيسيين

أولاً الخبراء (Experts): وهم عبارة عن شبكات عصبونية أصغر ومتخصصة. يتم تدريب كل "خبير" ليكون بارعاً في التعامل مع نوع معين من البيانات أو جانب محدد من المشكلة. على سبيل المثال، في نموذج لغوي، قد يتخصص أحد الخبراء في فهم المصطلحات البرمجية، بينما يتخصص آخر في تحليل المشاعر، وثالث في الترجمة.

ثانياً شبكة التوجيه (Gating Network أو Router): وهي المكون الذكي الذي يقرر أي الخبراء هو الأنسب لمعالجة المدخلات الحالية. تعمل هذه الشبكة كـ موزع، حيث تقوم بتحليل البيانات المدخلة (مثل سؤال أو جملة) ثم تختار "خبيراً" أو مجموعة صغيرة من "الخبراء" الأكثر كفاءة للتعامل معها وتفعيلهم.