نوآوری در مدیریت برای توسعه پایدار

Kolnegar Private Media (Management Innovation for Sustainable Development)

10 فروردین 1403 4:44 ق.ظ

معماری مبتنی بر شبکه عصبی مصنوعی تقویت شده با حافظه

16 دسامبر 2020توسط اینگرید فاضلی

طی دهه گذشته یا  قدری بیشتر ، محققان مدل های مختلف محاسباتی مبتنی بر شبکه های عصبی مصنوعی (ANN) را ایجاد کرده اند. در حالی که مشخص شده است بسیاری از این مدلها در انجام وظایف خاص به خوبی عمل می کنند ، اما آنها همیشه قادر به شناسایی استراتژیهای تکراری ، پی در پی یا الگوریتمی نیستند که می تواند برای غلبه بر مشکلات جدید اعمال شود.

مطالعات گذشته نشان داده است که افزودن یک جز حافظه خارجی می تواند توانایی شبکه عصبی را برای دستیابی به این استراتژی ها بهبود بخشد. با این حال ، حتی با وجود یک حافظه خارجی ، آنها می توانند مستعد خطا باشند ، زیرا نسبت به تغییرات داده های ارائه شده به آنها حساس هستند و برای انجام عملکرد خوب به مقدار زیادی داده آموزش نیاز دارند.

محققان دانشگاه Technische Darmstadt اخیراً یک معماری مبتنی بر ANN تقویت شده در حافظه را ارائه داده اند که می تواند استراتژیهای انتزاعی برای حل مشکلات را بیاموزد. این معماری ، ارائه شده در مقاله ای در Nature Machine Intelligence ، محاسبات الگوریتمی را از دستکاری های وابسته به داده جدا می کند و جریان اطلاعات پردازش شده توسط الگوریتم ها را به دو “جریان” مجزا تقسیم می کند.

محققان در مقاله خود نوشتند: “گسترش شبکه های عصبی با حافظه های خارجی ، ظرفیت آنها را برای یادگیری چنین راهبردهایی افزایش داده است ، اما آنها هنوز مستعد تغییرات داده ها هستند ، برای یادگیری راه حل های مقیاس پذیر و قابل انتقال تلاش می کنند و نیاز به داده های آموزشی گسترده دارند.

کامپیوتر عصبی هاروارد یا NHC ، جریان اطلاعات تغذیه شده به یک الگوریتم را به دو جریان مختلف تقسیم می کند ، یعنی یک جریان داده (حاوی دستکاری های خاص داده ها) و جریان کنترل (حاوی عملیات الگوریتمی). این در نهایت به آن امکان می دهد تا بین ماژول های مربوط به داده و ماژول های الگوریتمی تفاوت قائل شود و دو حافظه جداگانه و در عین حال بهم پیوسته ایجاد کند.

NHC دارای سه ماژول اصلی الگوریتمی است که از آنها به عنوان کنترل کننده ، حافظه و گذرگاه یاد می شود. این سه مولفه عملکردهای مشخصی دارند اما برای به دست آوردن انتزاعاتی که می توانند در کارهای آینده به کار روند ، با یکدیگر تعامل دارند.

محققان در مقاله خود توضیح دادند: “این مکانیسم انتزاع و آموزش تکاملی ، یادگیری راه حلهای الگوریتمی قوی و مقیاس پذیر را قادر می سازد.”

تیم دانشگاه Technische Darmstadt NHC را با استفاده از آن برای آموزش و اجرای 11 الگوریتم مختلف ارزیابی کردند. سپس آنها عملکرد این الگوریتم ها را به همراه قابلیت تعمیم و انتزاع آنها آزمایش کردند. محققان دریافتند که NHC می تواند با اطمینان  یازده الگوریتم را اجرا کند و در عین حال به آنها اجازه می دهد وظایفی را که پیچیده تر از وظایفی هستند که در ابتدا برای انجام آنها انجام شده اند ، انجام دهند.

مطالعه اخیر انجام شده توسط این تیم از محققان ، پتانسیل استفاده از مولفه های حافظه خارجی را برای تقویت عملکرد و تعمیم پذیری معماری های مبتنی بر شبکه عصبی در میان وظایف با پیچیدگی های مختلف تأیید می کند. در آینده ، از معماری NHC می توان برای ترکیب و بهبود توانایی شبکه های مختلف عصبی استفاده کرد ، به توسعه مدل هایی که می توانند استراتژی های مفید را برای پیش بینی دقیق بر اساس داده های جدید شناسایی کنند ، کمک می کند.

https://techxplore.com

آیا این نوشته برایتان مفید بود؟

مطالب مرتبط

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *