25 مارس 2022 – نوشته کری گریمن – اعتبار: Andrey_Popov/Shutterstock
روبات ها در زندگی روزمره ما بیشتر و بیشتر دیده می شوند. آنها می توانند بسیار مفید باشند (دست و پاهای بیونیک، ماشین های چمن زنی روباتیک، یا ربات هایی که غذا را به افراد در قرنطینه تحویل می دهند)، یا صرفاً سرگرم کننده (سگ های رباتیک، اسباب بازی های رقصنده، و هواپیماهای بدون سرنشین آکروباتیک) باشند. شاید تخیل تنها محدودیتی باشد که ربات ها در آینده قادر به انجام آن خواهند بود.
با این حال، چه اتفاقی می‌افتد، وقتی روبات‌ها کاری را که ما می‌خواهیم انجام نمی‌دهند – یا آن را به گونه‌ای انجام می‌دهند که باعث آسیب شود؟ به عنوان مثال، اگر یک بازوی بیونیک در یک تصادف رانندگی درگیر شود، چه اتفاقی می‌افتد؟
تصادفات روباتی به دو دلیل به یک نگرانی تبدیل شده است. اولاً، افزایش تعداد ربات‌ها طبیعتاً شاهد افزایش تعداد تصادفات آنها خواهد بود. دوم، ما در ساخت ربات‌های پیچیده‌تر بهتر می‌شویم. وقتی یک ربات پیچیده تر است، درک اینکه چرا مشکلی پیش آمده دشوارتر است.
بیشتر ربات ها بر روی انواع مختلفی از هوش مصنوعی (AI) کار می کنند. هوش مصنوعی می تواند تصمیماتی شبیه انسان بگیرد (اگرچه ممکن است به طور عینی تصمیمات خوب یا بد بگیرد). این تصمیم‌ها می‌توانند موارد مختلفی باشند، از شناسایی یک شی تا تفسیر گفتار.
هوش مصنوعی برای اتخاذ این تصمیمات برای ربات بر اساس اطلاعات مجموعه داده های گسترده آموزش دیده است. سپس هوش مصنوعی‌ها قبل از تعیین تکلیف، از نظر دقت آزمایش می‌شوند (تا چه حد آنچه را که ما می‌خواهیم انجام می‌دهند).
هوش مصنوعی را می توان به روش های مختلفی طراحی کرد. به عنوان مثال، ربات خاصی را در نظر بگیرید. می‌توان آن را طوری طراحی کرد که هرگاه به سطحی برخورد کرد، در جهت تصادفی تغییر مسیر داد. برعکس، می‌توان آن را به گونه‌ای طراحی کرد که محیط اطراف خود را برای یافتن موانع، پوشش تمام سطوح و بازگشت به پایه شارژ خود ترسیم کند. در حالی که خلاء اول ورودی را از حسگرهای خود می گیرد، دومی آن ورودی را در یک سیستم نقشه برداری داخلی ردیابی می کند. در هر دو مورد، هوش مصنوعی اطلاعات را دریافت می کند و در مورد آن تصمیم می گیرد.
هر چه یک ربات قادر به انجام کارهای پیچیده تر باشد، انواع اطلاعات بیشتری برای تفسیر دارد. همچنین ممکن است چندین منبع از یک نوع داده را ارزیابی کند، مانند در مورد داده های شنیداری، صدای زنده، رادیو و باد.
از آنجایی که روبات‌ها پیچیده‌تر می‌شوند و می‌توانند بر روی اطلاعات مختلف عمل کنند، تعیین اینکه ربات بر روی کدام اطلاعات عمل کرده است، به‌ویژه زمانی که آسیب ایجاد می‌شود، اهمیت بیشتری پیدا می‌کند.
اتفاق پیش می آید
مانند هر محصول دیگری، در مورد روبات ها همه چیز ممکن است اشتباه پیش برود. گاهی اوقات این یک مشکل داخلی است، مانند اینکه ربات یک فرمان صوتی را تشخیص نمی دهد. گاهی اوقات خارجی است – سنسور ربات آسیب دیده است. و گاهی اوقات ممکن است هر دو باشد، مانند طراحی نشدن ربات برای کار بر روی فرش و “سقوط”. تحقیقات تصادف ربات باید تمام علل بالقوه را بررسی کند.
در حالی که ممکن است زمانی که مشکلی به ربات آسیب وارد شود، ناخوشایند باشد، اما زمانی که ربات باعث آسیب رساندن به شخص یا ناتوانی در کاهش آسیب به شخص شود، بسیار نگران هستیم. برای مثال، اگر یک بازوی بیونیک نتواند یک نوشیدنی داغ را بگیرد، آن را به صاحبش می زند. یا اگر یک ربات مراقبت نتواند تماس اضطراری را در زمانی که کاربر به ضعف افتاده است ثبت کند.
چرا بررسی تصادف ربات با حوادث انسانی متفاوت است؟ قابل ذکر است که ربات ها انگیزه ای ندارند. ما می‌خواهیم بدانیم چرا یک ربات بر اساس مجموعه ورودی‌های خاصی که داشت، تصمیم گرفت.
در مثال بازوی بیونیک، آیا این یک ارتباط نادرست بین کاربر و دست بود؟ آیا ربات چندین سیگنال را با هم اشتباه گرفته است؟ قفل غیر منتظره؟ در مثالی که فردی از روی زمین افتاده است، آیا ربات نمی تواند صدای کمک را از روی یک فن با صدای بلند “بشنود”؟ یا در تفسیر گفتار کاربر مشکل داشت؟
جعبه سیاه
بررسی تصادف ربات یک مزیت کلیدی نسبت به بررسی تصادف انسانی دارد: پتانسیل برای یک شاهد داخلی وجود دارد. هواپیماهای تجاری نیز شاهد مشابهی دارند: جعبه سیاه که برای مقاومت در برابر سقوط هواپیما ساخته شده است و اطلاعاتی درباره علت وقوع این سانحه ارائه می دهد. این اطلاعات نه تنها در درک حوادث، بلکه برای جلوگیری از تکرار آنها بسیار ارزشمند است.
به عنوان بخشی از RoboTIPS، پروژه‌ای که بر نوآوری مسئولانه برای روبات‌های اجتماعی (ربات‌هایی که با مردم تعامل دارند)، تمرکز دارد، چیزی را ایجاد کرده‌ایم که آن را جعبه سیاه اخلاقی می‌نامیم: یک رکورد داخلی از ورودی‌های ربات و اقدامات مربوطه. جعبه سیاه اخلاقی برای هر نوع رباتی که در آن زندگی می کند طراحی شده است و برای ثبت تمام اطلاعاتی که ربات روی آنها عمل می کند ساخته شده است. این می تواند صدا، بصری یا حتی فعالیت امواج مغزی باشد.
ما در حال آزمایش جعبه سیاه اخلاقی بر روی انواع ربات ها در شرایط آزمایشگاهی و تصادفی شبیه سازی شده هستیم. هدف این است که جعبه سیاه اخلاقی در ربات‌ها با هر نوع ساخت و کاربرد استاندارد شود.
در حالی که داده های ثبت شده توسط جعبه سیاه اخلاقی هنوز در صورت وقوع حادثه نیاز به تفسیر دارند، داشتن این داده ها در وهله اول برای اجازه دادن به ما برای بررسی بسیار مهم است.
فرآیند بررسی این فرصت را فراهم می کند تا اطمینان حاصل شود که اشتباهات مشابه دو بار اتفاق نمی افتد. جعبه سیاه اخلاقی نه تنها راهی برای ساخت ربات های بهتر، بلکه برای نوآوری مسئولانه در زمینه ای هیجان انگیز و پویا است.
