31 آگوست 2023 -شکل 3: ترمز اضطراری خودکار عابر پیاده به عنوان بخشی از برنامه هوش مصنوعی Automotive در VEDLIoT توسعه یافته است.پروژه اتحادیه اروپا VEDLIoT نشان می دهد که چگونه یادگیری عمیق و هوش مصنوعی به سرعت بخشیدن به پتانسیل سیستم های اینترنت اشیا کمک می کند.
اینترنت اشیا (IoT)، شبکه‌ای از دستگاه‌های متصل به هم مجهز به حسگرها و نرم‌افزار، نحوه تعامل ما با دنیای اطراف را متحول کرده است و به ما قدرت می‌دهد تا داده‌ها را جمع‌آوری و تجزیه و تحلیل کنیم.
با پیشرفت فناوری و دسترسی بیشتر، اشیاء بیشتری به قابلیت‌های اتصال و حسگر مجهز می‌شوند و آنها را به بخشی از اکوسیستم اینترنت اشیا تبدیل می‌کند. انتظار می رود تعداد سیستم های فعال اینترنت اشیا تا سال 2027 به 29.7 میلیارد برسد که نشان دهنده افزایش قابل توجهی از 3.6 میلیارد دستگاه ثبت شده در سال 2015 می باشد. به طور خاص، اینترنت اشیاء صنعتی، خودرو و خانه های هوشمند سه حوزه اصلی با الزامات خاص هستند، اما نیاز مشترکی به سیستم های اینترنت اشیاء کارآمد برای فعال کردن عملکرد و بهینه سازی دارند.
مروری بر لایه‌ها و مؤلفه‌های فناوری VEDLIoT، سیستم‌های iot
شکل 1: مروری بر لایه ها و اجزای فناوری VEDLIoT
افزایش کارایی سیستم‌های اینترنت اشیا و باز کردن پتانسیل آنها را می‌توان از طریق هوش مصنوعی (AI) و ایجاد معماری‌های AIoT به دست آورد. هوش مصنوعی با استفاده از الگوریتم‌های پیچیده و تکنیک‌های یادگیری ماشینی، سیستم‌های اینترنت اشیا را برای تصمیم‌گیری هوشمند، پردازش حجم وسیعی از داده‌ها و استخراج بینش‌های ارزشمند، توانمند می‌سازد. به عنوان مثال، این ادغام بهینه سازی عملیاتی در اینترنت اشیاء صنعتی را هدایت می کند، وسایل نقلیه خودران پیشرفته را تسهیل می کند و مدیریت هوشمند انرژی و تجربیات شخصی سازی شده در خانه های هوشمند را ارائه می دهد.
در میان الگوریتم‌های مختلف هوش مصنوعی، یادگیری عمیق که از شبکه‌های عصبی مصنوعی استفاده می‌کند، به چند دلیل برای سیستم‌های IoT بسیار مناسب است. یکی از دلایل اصلی توانایی آن در یادگیری و استخراج خودکار ویژگی ها از داده های خام حسگر است. این امر به ویژه در کاربردهای اینترنت اشیا که داده‌ها می‌توانند بدون ساختار و دارای روابط پیچیده باشند، ارزشمند است. علاوه بر این، Deep Learning به برنامه‌های IoT امکان می‌دهد تا داده‌ها را در زمان واقعی و جریان‌سازی کارآمد مدیریت کنند. این توانایی امکان تجزیه و تحلیل و تصمیم گیری مداوم را فراهم می کند، که در برنامه های حساس به زمان مانند نظارت در زمان واقعی، تعمیر و نگهداری پیش بینی یا سیستم های کنترل مستقل بسیار مهم است.
علیرغم مزایای متعدد یادگیری عمیق برای سیستم‌های اینترنت اشیا، پیاده‌سازی آن دارای چالش‌های ذاتی مانند کارایی و ایمنی است که باید برای استفاده کامل از پتانسیل آن برطرف شود. پروژه یادگیری عمیق بسیار کارآمد در اینترنت اشیا (VEDLIoT) با هدف حل این چالش ها است.
یک نمای کلی از اجزای مختلف VEDLIoT در شکل 1 ارائه شده است. اینترنت اشیا توسط پروژه VEDLIoT برای تسریع برنامه ها و بهینه سازی بهره وری انرژی اینترنت اشیا با یادگیری عمیق ادغام شده است. VEDLIoT با استفاده از چندین مؤلفه کلیدی به این اهداف دست می یابد:
شتاب دهنده های تخصصی هوش مصنوعی:
این شتاب‌دهنده‌ها برای بهینه‌سازی مصرف انرژی استفاده می‌شوند و امکان کاهش قابل‌توجه در مصرف انرژی را بدون به خطر انداختن عملکرد فراهم می‌کنند. علاوه بر این، آنها کارایی کلی مدل‌های یادگیری عمیق را افزایش می‌دهند و امکان استنتاج سریع‌تر و مقیاس‌پذیری بهبود یافته برای برنامه‌های IoT را فراهم می‌کنند.
هرس سخت افزاری و کمی سازی: VEDLIoT با استفاده از تکنیک های هرس و کمی سازی سخت افزاری، مدل های یادگیری عمیق را تسریع می بخشد و ردپای حافظه را کاهش می دهد و در عین حال دقت بالا را حفظ می کند.
ایمنی و امنیت: استفاده از محیط‌های اجرایی قابل اعتماد مبتنی بر سخت‌افزار، یکپارچگی و قابلیت اطمینان مدل‌های یادگیری عمیق مستقر در سیستم‌های IoT را تضمین می‌کند. علاوه بر این، یک چارچوب معماری تخصصی به در نظر گرفتن و ادغام جنبه های امنیتی و اخلاقی در طول مهندسی نیازمندی ها کمک می کند.
پلتفرم‌های سخت‌افزاری قابل سفارشی‌سازی: VEDLIoT از پلتفرم‌های سخت‌افزاری قابل تنظیم استفاده می‌کند، و راه‌حل‌های متناسبی را که نیازهای خاص اینترنت اشیا را برآورده می‌کنند و الگوریتم‌های یادگیری عمیق را بهینه می‌کنند، امکان‌پذیر می‌سازد.
شکل 2: نمایشگر آینه هوشمند به عنوان بخشی از برنامه خانه هوشمند در VEDLIoT توسعه یافته است.
VEDLIoT روی برخی موارد استفاده تمرکز می‌کند، مانند روش‌های تعامل مبتنی بر تقاضا در خانه‌های هوشمند (نگاه کنید به شکل 2)، کاربردهای صنعتی اینترنت اشیاء مانند طبقه‌بندی وضعیت موتور و تشخیص انجراف، و سیستم ترمز اضطراری خودکار عابر پیاده (PAEB) در بخش خودرو. شکل در زیر تیتر 3 را ببینید. VEDLIoT به طور سیستماتیک چنین موارد استفاده را از طریق یک رویکرد از پایین به بالا با استفاده از نیاز بهینه می کند.
تکنیک‌های مهندسی و تأیید، همانطور که در شکل 1 نشان داده شده است. این پروژه دانش سطح تخصصی را از حوزه‌های مختلف ترکیب می‌کند تا یک میان‌افزار قوی ایجاد کند که توسعه را از طریق آزمایش، کنترل معیار، و چارچوب‌های استقرار تسهیل می‌کند و در نهایت از بهینه‌سازی و اثربخشی الگوریتم‌های یادگیری عمیق در داخل سیستم های اینترنت اشیا اطمینان می‌دهد. در بخش‌های بعدی، هر یک از اجزای پروژه VEDLIoT را به اختصار معرفی می‌کنیم.
شتاب دهنده های تخصصی هوش مصنوعی
شتاب‌دهنده‌های مختلفی برای طیف وسیعی از کاربردها، از سیستم‌های تعبیه‌شده کوچک با کنترل توان در محدوده میلی‌وات گرفته تا پلتفرم‌های ابری پرقدرت، در دسترس هستند. همانطور که در شکل 4 نشان داده شده است، این شتاب دهنده ها بر اساس مقادیر اوج عملکردشان به سه گروه اصلی دسته بندی می شوند.
گروه اول، دسته کم توان (< 3 وات) است که شامل هسته‌های سبک میکروکنترلر کم مصرف همراه با شتاب‌دهنده‌های فشرده برای عملکردهای یادگیری عمیق خاص است. این شتاب دهنده ها برای برنامه های اینترنت اشیا طراحی شده اند و رابط های ساده ای را برای یکپارچه سازی آسان ارائه می دهند. برخی از شتاب‌دهنده‌های این دسته، رابط‌های دوربین یا وسایل صوتی را ارائه می‌کنند که وظایف پردازش کارآمد بینایی یا صدا را ممکن می‌سازد. آنها ممکن است یک رابط USB عمومی ارائه دهند که به آنها اجازه می دهد به عنوان دستگاه های شتاب دهنده متصل به یک پردازنده میزبان عمل کنند. این شتاب‌دهنده‌های بسیار کم قدرت برای کاربردهای اینترنت اشیا که در آن بهره‌وری انرژی و فشرده‌بودن ملاحظات کلیدی هستند، ایده‌آل هستند و عملکرد بهینه‌سازی شده‌ای را برای وظایف یادگیری عمیق بدون انرژی بیش از حد ارائه می‌کنند.
مورد استفاده VEDLIoT برای نگهداری پیش‌بینی‌کننده مثال خوبی است و از یک شتاب‌دهنده بسیار کم توان استفاده می‌کند. یکی از مهمترین معیارهای طراحی مصرف انرژی کم است، زیرا یک جعبه کوچک با باتری است که می تواند به صورت خارجی بر روی هر موتور الکتریکی نصب شود و باید موتور الکترونیکی را حداقل به مدت سه سال بدون تغییر باتری کنترل کند.
مروری بر عملکرد شتاب دهنده های هوش مصنوعی، سیستم های iot
شکل 4: نمای کلی عملکرد شتاب دهنده های هوش مصنوعی
دسته بعدی گروه کم مصرف (3 وات تا 35 وات) است که طیف وسیعی از اتوماسیون و کاربردهای خودرو را هدف قرار می دهد. این شتاب دهنده ها دارای رابط های پر سرعت برای حافظه های خارجی و لوازم جانبی و ارتباط کارآمد با سایر دستگاه های پردازشی یا سیستم های میزبان مانند PCIe هستند. آنها از رویکردهای ماژولار و مبتنی بر میکروسرور پشتیبانی می کنند و با پلتفرم های مختلف سازگاری دارند. علاوه بر این، بسیاری از شتاب‌دهنده‌ها در این دسته از پردازنده‌های کاربردی قدرتمندی استفاده می‌کنند که قادر به اجرای کامل سیستم‌عامل‌های لینوکس هستند و امکان توسعه نرم‌افزار انعطاف‌پذیر و یکپارچه‌سازی را فراهم می‌کنند. برخی از دستگاه‌های این دسته شامل مدارهای مجتمع اختصاصی ویژه برنامه (ASIC) هستند، در حالی که برخی دیگر دارای واحدهای پردازش گرافیکی تعبیه‌شده NVIDIA (GPU) هستند. این شتاب‌دهنده‌ها راندمان انرژی و قابلیت‌های پردازش را متعادل می‌کنند و آنها را برای کارهای محاسباتی مختلف در حوزه‌های اتوماسیون و خودرو مناسب می‌سازد.
دسته با کارایی بالا (> 35 وات) شتاب دهنده ها برای استنتاج و سناریوهای آموزشی در سرورهای لبه و ابری طراحی شده اند. این شتاب‌دهنده‌ها قدرت پردازش فوق‌العاده‌ای را ارائه می‌کنند و آنها را برای کارهای محاسباتی بسیار مناسب می‌سازد. آنها معمولاً به عنوان کارت های افزودنی PCIe مستقر می شوند و رابط های پر سرعتی را برای انتقال کارآمد داده ارائه می دهند. دستگاه‌های این دسته دارای قدرت طراحی حرارتی (TDP) بالایی هستند که نشان‌دهنده توانایی آنها در مدیریت بارهای کاری قابل توجه است. این شتاب دهنده ها شامل ASIC های اختصاصی هستند که به دلیل عملکرد تخصصی خود در وظایف یادگیری عمیق شناخته شده اند. آنها قابلیت‌های پردازش سریع‌تری را ارائه می‌کنند و زمان استنتاج و آموزش سریع‌تر را ممکن می‌سازند. برخی از پردازنده‌های گرافیکی کلاس مصرف‌کننده نیز ممکن است در مقایسه‌های بنچمارک گنجانده شوند تا دیدگاه گسترده‌تری ارائه کنند.
انتخاب شتاب دهنده مناسب از طیف گسترده ای از گزینه های موجود در بالا، ساده نیست. با این حال، VEDLIoT این مسئولیت حیاتی را با انجام ارزیابی‌ها و ارزیابی‌های کامل معماری‌های مختلف، از جمله GPU، آرایه‌های دروازه قابل برنامه‌ریزی میدانی (FPGA) و ASIC بر عهده می‌گیرد. این پروژه به دقت عملکرد و مصرف انرژی این شتاب دهنده ها را بررسی می کند تا از مناسب بودن آنها برای موارد استفاده خاص اطمینان حاصل کند. VEDLIoT با بهره‌گیری از تخصص و فرآیند ارزیابی جامع خود، انتخاب شتاب‌دهنده‌های یادگیری عمیق را در داخل پروژه و در چشم‌انداز وسیع‌تر IoT و برنامه‌های یادگیری عمیق راهنمایی می‌کند.
هرس سخت افزاری و کمی سازی
مدل‌های یادگیری عمیق آموزش‌دیده دارای افزونگی هستند که گاهی اوقات می‌توانند تا ۴۹ برابر اندازه اصلی خود، با کاهش دقت ناچیز فشرده شوند. اگرچه بسیاری از کارهای مربوط به چنین فشرده‌سازی‌هایی هستند، اکثر نتایج افزایش‌های تئوری را نشان می‌دهند که فقط گاهی اوقات به اجرای سخت‌افزار کارآمدتر تبدیل می‌شوند، زیرا آنها سخت‌افزار هدف را در نظر نمی‌گیرند. از سوی دیگر، فرآیند استقرار مدل‌های یادگیری عمیق در دستگاه‌های لبه شامل مراحل مختلفی مانند آموزش، بهینه‌سازی، کامپایل و زمان اجرا است. اگرچه چارچوب های مختلفی برای این موارد موجود است.
مراحل، قابلیت همکاری آنها می تواند متفاوت باشد، که منجر به نتایج و سطوح عملکرد متفاوت می شود. VEDLIoT این چالش‌ها را از طریق بهینه‌سازی مدل آگاه از سخت‌افزار با استفاده از ONNX، یک فرمت باز برای نمایش مدل‌های یادگیری ماشین، که سازگاری با اکوسیستم باز فعلی را تضمین می‌کند، برطرف می‌کند. علاوه بر این، Renode، یک چارچوب شبیه‌سازی منبع باز، به عنوان یک شبیه‌ساز عملکردی برای سیستم‌های ناهمگن پیچیده عمل می‌کند و امکان شبیه‌سازی کامل سیستم روی تراشه (SoC) و اجرای همان نرم‌افزار مورد استفاده در سخت‌افزار را فراهم می‌کند.
علاوه بر این، VEDLIoT از جعبه ابزار EmbeDL برای بهینه سازی مدل های یادگیری عمیق استفاده می کند. جعبه ابزار EmbeDL ابزارها و تکنیک‌های جامعی را برای بهینه‌سازی مدل‌های یادگیری عمیق برای استقرار کارآمد در دستگاه‌های با محدودیت منابع ارائه می‌دهد. با در نظر گرفتن محدودیت‌ها و ویژگی‌های خاص سخت‌افزار، این جعبه ابزار توسعه‌دهندگان را قادر می‌سازد تا مدل‌ها را فشرده، کمی، هرس و بهینه‌سازی کنند، در حالی که استفاده از منابع را به حداقل می‌رسانند و دقت استنتاج بالا را حفظ می‌کنند. EmbeDL بر بهینه‌سازی سخت‌افزاری متمرکز است و تضمین می‌کند که مدل‌های یادگیری عمیق را می‌توان به طور موثر بر روی دستگاه‌های لبه و دستگاه‌های اینترنت اشیا مستقر کرد و پتانسیل برنامه‌های هوشمند را در حوزه‌های مختلف باز کرد. با EmbeDL، توسعه‌دهندگان می‌توانند به عملکرد برتر، استنتاج سریع‌تر و بهره‌وری انرژی بهبود یافته دست یابند، که آن را به منبعی ضروری برای کسانی تبدیل می‌کند که به دنبال به حداکثر رساندن پتانسیل یادگیری عمیق در برنامه‌های کاربردی دنیای واقعی هستند.
ایمنی و امنیت
از آنجایی که VEDLIoT قصد دارد یادگیری عمیق را با سیستم های اینترنت اشیا ترکیب کند، اطمینان از امنیت و ایمنی بسیار مهم است. به منظور تأکید بر این جنبه ها در هسته خود، این پروژه از محیط های اجرایی قابل اعتماد (TEEs)، مانند Intel SGX و ARM TrustZone، همراه با زمان های اجرا منبع باز مانند WebAssembly استفاده می کند. TEE ها محیط های امنی را فراهم می کنند که اجزای نرم افزاری حیاتی را ایزوله می کند و در برابر دسترسی و دستکاری غیرمجاز محافظت می کند. با استفاده از WebAssembly، VEDLIoT یک محیط مشترک برای اجرا در کل زنجیره، از اینترنت اشیا، از لبه و به ابر ارائه می دهد.
در زمینه TEE ها، VEDLIoT به ترتیب Twine و WaTZ را به عنوان زمان اجرا قابل اعتماد برای SGX اینتل و TrustZone ARM معرفی می کند. این زمان‌ها با استفاده از WebAssembly و رابط ماژولار آن، ایجاد نرم‌افزار را در محیط‌های امن ساده می‌کنند. این ادغام شکاف بین محیط های اجرایی قابل اعتماد و AIoT را پر می کند و به ادغام یکپارچه چارچوب های یادگیری عمیق کمک می کند. در TEE هایی که از WebAssembly استفاده می کنند، VEDLIoT به حفاظت قوی مستقل از سخت افزار در برابر تداخل مخرب دست می یابد و محرمانه بودن هر دو مدل داده و یادگیری عمیق را حفظ می کند. این ادغام تعهد VEDLIoT را به ایمن سازی اجزای نرم افزاری حیاتی، امکان توسعه ایمن، و تسهیل برنامه های AIoT تقویت شده با حریم خصوصی در محیط های ابری برجسته می کند.
چارچوب الزامات نشان دهنده نماهای مختلف معماری، سیستم های iot
شکل 5: چارچوب الزامات که نماهای مختلف معماری را نشان می دهد
علاوه بر این، VEDLIoT از یک چارچوب معماری تخصصی، همانطور که در شکل 5 نشان داده شده است، استفاده می کند که به تعریف، همگام سازی و هماهنگی الزامات و مشخصات اجزای هوش مصنوعی و عناصر سنتی سیستم اینترنت اشیا کمک می کند. این چارچوب از دیدگاه‌های معماری مختلفی تشکیل شده است که به نگرانی‌های طراحی خاص سیستم و جنبه‌های کیفی، از جمله ملاحظات امنیتی و اخلاقی می‌پردازد. با استفاده از این نماهای معماری به عنوان الگو و پر کردن آنها، می توان مطابقت ها و وابستگی ها را بین نماهای معماری تعیین کننده کیفیت و سایر تصمیمات طراحی، مانند ساخت مدل هوش مصنوعی، انتخاب داده ها و معماری ارتباطات شناسایی کرد. این رویکرد کل نگر تضمین می کند که جنبه های امنیتی و اخلاقی به طور یکپارچه در طراحی کلی سیستم ادغام می شوند و تعهد VEDLIoT به استحکام و رسیدگی به چالش های نوظهور در سیستم های اینترنت اشیاء مجهز به هوش مصنوعی را تقویت می کند.
پلتفرم های سخت افزاری قابل تنظیم برای سیستم های اینترنت اشیا
پلتفرم های سخت افزاری سنتی تنها از سیستم های همگن اینترنت اشیا پشتیبانی می کنند. با این حال، RECS، یک پلت فرم سخت افزاری میکروسرور با هوش مصنوعی، امکان ادغام یکپارچه فناوری های متنوع را فراهم می کند. بنابراین، تنظیم دقیق پلت فرم را به سمت برنامه های کاربردی خاص امکان پذیر می کند و یک پلت فرم جامع ابر به لبه را ارائه می دهد. همه انواع RECS الگوی طراحی یکسانی دارند تا یک زیرساخت ارتباطی با جفت متراکم و بسیار یکپارچه باشند. برای انواع مختلف RECS، اندازه های مختلف میکروسرور، از اندازه کارت اعتباری تا اندازه تبلت استفاده می شود. این به مشتریان اجازه می دهد تا بهترین نوع را برای هر مورد و سناریو انتخاب کنند. شکل 6 نمای کلی از انواع RECS را نشان می دهد.
سه پلتفرم مختلف RECS برای مرکز ابر/داده (RECS|Box)، لبه (t.RECS) و استفاده از اینترنت اشیا (u.RECS) مناسب هستند. همه سرورهای RECS از میکروسرورهای استاندارد صنعتی استفاده می کنند که قابل تعویض هستند و تنها با تغییر میکرو سرور امکان استفاده از آخرین فناوری را فراهم می کنند. ارائه دهندگان سخت افزار این میکروسرورها طیف گسترده ای از معماری های محاسباتی مختلف مانند اینتل را ارائه می دهند.
پردازنده های AMD و ARM، FPGA و ترکیبی از یک CPU با یک پردازنده گرافیکی یا شتاب دهنده هوش مصنوعی تعبیه شده.
مروری بر پلتفرم های سخت افزاری ناهمگن، سیستم های iot
شکل 6: نمای کلی از پلتفرم های سخت افزاری ناهمگن
VEDLIoT چالش آوردن یادگیری عمیق به دستگاه‌های اینترنت اشیا با عملکرد محاسباتی محدود و بودجه‌های کم مصرف را برطرف می‌کند. پلتفرم سخت‌افزاری VEDLIoT AIoT اجزای سخت‌افزاری بهینه‌سازی شده و شتاب‌دهنده‌های اضافی را برای برنامه‌های IoT فراهم می‌کند که کل طیف را از لبه‌ها تا فضای ابری را پوشش می‌دهد. از سوی دیگر، یک میان‌افزار قدرتمند برای تسهیل برنامه‌نویسی، آزمایش و استقرار شبکه‌های عصبی در سخت‌افزار ناهمگن استفاده می‌شود. روش‌های جدید برای مهندسی نیازمندی‌ها، همراه با مفاهیم ایمنی و امنیت، در سراسر چارچوب کامل گنجانده شده‌اند. این مفاهیم با موارد استفاده چالش برانگیز در بخش های صنعت کلیدی مانند خودرو، اتوماسیون و خانه های هوشمند آزمایش و هدایت می شوند.
