27 آگوست 2020توسط دانشگاه جنوب کالیفرنیا
یکی از بزرگترین موانع اتخاذ فناوریهای جدید ، اعتماد به هوش مصنوعی است.در حال حاضر ، یک ابزار جدید که توسط محققان مهندسی USC Viterbi ارایه شده است ، که در صورت قابل اعتماد بودن داده ها و پیش بینی های ایجاد شده توسط الگوریتم های هوش مصنوعی ، اعتماد را ایجاد می کند. مقاله تحقیقاتی آنها با عنوان “امید از این پس وجود دارد ، اعتماد در شبکه های عصبی” توسط مینگشی چنگ ، شاهین نظریان و پل بوگدان از گروه سیستم های فیزیکی سایبر USC ، در Frontiers در هوش مصنوعی به نمایش در آمده است.
شبکه های عصبی نوعی هوش مصنوعی هستند که از روی مغز مدل می شوند و پیش بینی هایی را ایجاد می کنند. اما آیا به پیش بینی های این شبکه های عصبی می توان اعتماد کرد؟ یكی از مهمترین موانع پیشرفت خودروهای خودران ، این است كه وسایل نقلیه باید به عنوان تصمیم گیرنده مستقل در جایگاه راننده اتومبیل عمل كنند و به سرعت وضعیت اشیاء موجود در جاده را رمزگشایی و تشخیص دهند – چه كسی یك ضربه گیر سرعت ، یك شیء بی جان ، یک حیوان خانگی یا یک کودک است – و تصمیم بگیرد که چگونه با وسیله نقلیه دیگری به که سمت آن می اید ، عمل کند. آیا ماشین باید با وسیله نقلیه در حال برخورد یا در حال دور زدن برخورد کند ویا به آنچه که تصور می کند یک شیء بی جان یا کودک است برخورد کند؟ آیا می توانیم به نرم افزار رایانه ای موجود در وسایل نقلیه اعتماد کنیم تا در کسری از ثانیه تصمیمات صحیحی اتخاذ کند – به ویژه هنگامی که اطلاعات متناقضی از حالت های مختلف سنجش مانند دوربین یا داده های موجی و سایر انواع به دست می آید؟ دانستن اینکه به کدام سیستم ها اعتماد کنید و کدام حسگر دقیق است و باید برای تعیین تصمیماتی که سیستم اتوماتیک باید بگیرد ، مبنا قرار گیرد .
نویسنده اصلی مینگشی چنگ با این تفکر به کار بر روی این پروژه مشغول شده است: “حتی انسانها در مواردی که شامل اطلاعات متناقض هستند می توانند در سناریوهای تصمیم گیری مشخصی قاطع باشند. ، چرا ماشین آلات نمی توانند و باید وقتی نمی دانند به ما بگویند؟”
ابزاری که نویسندگان با نام DeepTrust ایجاد کرده اند می تواند میزان عدم قطعیت را کمی کند.
توسعه این ابزار ، توسط تیم تحقیقاتی USC تقریباً دو سال طول كشید و از آنچه به عنوان منطق ذهنی شناخته می شود ، برای ارزیابی معماری شبکه های عصبی استفاده كرد. DeepTrust در یکی از موارد آزمون خود ، نظرسنجی های مربوط به انتخابات ریاست جمهوری سال 2016 نشان داد که پیش بینی مربوط به پیروزی کلینتون حاشیه خطای بیشتری دارد.
اهمیت دیگر این مطالعه این است که بینشی در مورد چگونگی آزمایش قابلیت اطمینان الگوریتم های هوش مصنوعی که بطور معمول با هزاران تا میلیون ها داده آموزش می بینند ، فراهم می کند. بررسی اینکه آیا به طور دقیق هر یک از این داده هاکه پیش بینی های هوش مصنوعی را نشان می دهند ، برچسب گذاری شده است بسیار وقت گیر است. محققان می گویند ، موضوع مهم تر این است که معماری این سیستم های شبکه عصبی از دقت بیشتری برخوردار است.
بوگدان خاطرنشان كرد: اگر دانشمندان رایانه می خواهند به طور هم زمان دقت و اطمینان را به حداكثر برسانند ، این كار می تواند به عنوان راهنما باشد كه میزان نویز در آزمایش نمونه ها چگونه باشد.
محققان معتقدند که این مدل از نوع اولیه است. بوگدان می گوید: “بر مبنای دانش ما ، هیچ مدل یا ابزاری برای اعتماد کامل ، یادگیری عمیق ، هوش مصنوعی و یادگیری ماشینی وجود ندارد. این اولین رویکرد است و مسیرهای تحقیقاتی جدیدی را باز می کند.” وی اضافه می کند که این ابزار توانایی ایجاد “هوش مصنوعی و سازگار” را دارد.
https://techxplore.com
