تعتمد هياكل الشبكات العصبية الاصطناعية والخلايا العصبية في الكائن الحي على نفس المبادئ. العقد في
"منذ عدة سنوات أجرينا عملية فعالةوالتكميم الاقتصادي للأوزان في شبكة هوبفيلد. هذه شبكة ذاكرة ترابطية ذات اتصالات متماثلة بين العناصر التي يتم تشكيلها وفقًا لقاعدة هب. أثناء تشغيلها، ينخفض نشاط الشبكة إلى حالة معينة من التوازن، وعندما يتم تحقيقها، تعتبر المشكلة قد تم حلها. تم تطبيق نتائج هذه الدراسة لاحقًا على شبكات التغذية الأمامية للتعلم العميق، والتي تحظى بشعبية كبيرة في التعرف على الصور اليوم. عادةً، تتطلب هذه الشبكات إعادة التدريب بعد التكميم، لكننا وجدنا طريقة لتجنب ذلك."
ياكوف كارانداشيف، مرشح العلوم، أستاذ مشارك في جامعة رودن.
الفكرة الأساسية وراء تبسيط العصب الاصطناعيالشبكات - هذا هو ما يسمى بتكميم الأوزان ، أي تقليل عدد البتات لكل وزن. يتضمن التكميم حساب متوسط الإشارة: على سبيل المثال ، إذا تم تطبيقه على صورة ، فإن جميع وحدات البكسل التي تمثل ظلال مختلفة من نفس اللون ستصبح متطابقة. رياضيا ، هذا يعني أن الوصلات العصبية المتشابهة في معلمات معينة يجب أن يكون لها نفس الوزن (أو الأهمية) ، معبرًا عنها كرقم.
أجرى فريق من علماء الرياضيات من جامعة RUDN حسابات وابتكرت الصيغ التي تؤسس بكفاءة الارتباطات بين الأوزان في الشبكة العصبية قبل وبعد التكميم. على أساسهم ، طور العلماء خوارزميات يمكن من خلالها لشبكة عصبية مدربة تصنيف الصور. في تجربتهم ، استخدم علماء الرياضيات حزمة نصية من 50000 صورة يمكن تقسيمها إلى 1000 مجموعة. بعد التدريب ، تم تكميم الشبكة باستخدام الطريقة الجديدة ولم يتم إعادة تدريبها. ثم تمت مقارنة النتائج مع خوارزميات تكميم أخرى.
بعد التكميم ، دقة التصنيفانخفض بنسبة 1٪ فقط ، ولكن تم تقليل حجم التخزين المطلوب بمقدار ست مرات. تظهر التجارب أن هذه الشبكة لا تتطلب إعادة التدريب بسبب الارتباط القوي بين الأوزان الأصلية والمكملة. يمكن أن يساعد هذا الأسلوب في توفير الموارد عند تنفيذ المهام العاجلة أو العمل على الأجهزة المحمولة.
قراءة المزيد:
يتم بناء محرك صاروخي نووي للرحلات الجوية إلى المريخ. كيف هي خطيرة؟
انظر إلى صورة المريخ البالغة 8 تريليون بكسل.
غبار القمر قاتل للبشر. قمر الأرض غير مناسب للاستعمار؟
الإجهاض والعلم: ماذا سيحدث للأطفال الذين سينجبون.