21 سپتامبر 2021 توسط Jesper Spangsmark Nielsen ،Hanne Kokkegård ، دانشگاه فنی دانمارک
ما دقیقاً نمی‌دانیم که در مغز هوش مصنوعی چه می‌گذرد و بنابراین نمی‌توانیم اقدامات آن را به طور دقیق پیش‌بینی کنیم. ما می‌توانیم آزمایش‌هایی را انجام دهیم، و همیشه نمی‌توانیم پیش‌بینی و درک کنیم که چرا هوش مصنوعی کاری را انجام می‌دهد.
درست مانند انسان‌ها، توسعه هوش مصنوعی بر اساس تجربیات است (در مورد داده‌های هوش مصنوعی). به همین دلیل است که نحوه عملکرد هوش مصنوعی گاهی اوقات ما را شگفت‌زده می‌کند و مثال‌های بی‌شماری از رفتارهای مصنوعی جنسیتی، نژادپرستانه یا نامناسب وجود دارد.
پروفسور سورن هاوبرگ، DTU Compute می‌گوید:
فقط به این دلیل که ما می‌توانیم الگوریتمی بسازیم که به هوش مصنوعی اجازه می‌دهد الگوهایی را در داده‌ها پیدا کند تا بهترین کار را اجرا کند، این بدان معنا نیست که ما درک می‌کنیم که چه الگوهایی را پیدا می‌کند. بنابراین اگرچه ما آن را ایجاد کرده‌ایم، به این معنی نیست که آن را می‌دانیم.
این پارادوکسی به نام مشکل جعبه سیاه است. که از یک سو ریشه در ماهیت خودآموزی هوش مصنوعی دارد و از سوی دیگر، در این واقعیت است که تاکنون کسی نتوانسته است به مغز هوش مصنوعی نگاه کند و ببیند با هوش مصنوعی چه می‌کند.
اگر بتوانیم بفهمیم هوش مصنوعی با چه داده‌هایی و چگونه کار می‌کند، با چیزی در بین امتحانات و روانکاوی مطابقت دارد – به عبارت دیگر، یک روش سیستماتیک برای شناخت بهتر هوش مصنوعی را یافته‌ایم. تاکنون این امر امکان پذیر نبوده است، اما اکنون سورن هاوبرگ و همکارانش روشی را بر اساس هندسه کلاسیک توسعه داده‌اند که به شما امکان می‌دهد ببینید چگونه هوش مصنوعی شخصیت آن را شکل داده است.
مغز آشفته
برای آموزش روبات‌‍ها به چنگ زدن، پرتاب کردن، هل دادن، کشیدن، راه رفتن، پریدن، باز کردن درها و غیره به مجموعه داده‌های بسیار بزرگی نیاز است و هوش مصنوعی فقط از داده‌هایی استفاده می‌کند که به آن‌ها امکان می‌دهد تا یک کار خاص را حل کند. راهی که هوش مصنوعی داده‌های مفید را از داده‌های بیهوده طبقه بندی می کند و در نهایت الگوهایی را که بعداً اقدامات خود را بر اساس آن‌ها قرار می‌دهد، فشرده سازی داده‌های خود در شبکه‌های عصبی است. با این حال، درست مانند زمانی که ما انسان‌ها وسایل را با هم جمع می‌کنیم، به راحتی می‌تواند برای دیگران آشفته به نظر برسد و تشخیص اینکه از چه سیستمی استفاده کرده‌ایم دشوار است.
به عنوان مثال، اگر ما خانه خود را با هم جمع کنیم که تا جایی که ممکن است جمع و جور باشد، با یک بالش راحت و سوپی در دیگ خاتمه می‌یابد تا فضا را ذخیره کند. هیچ مشکلی در این مورد وجود ندارد، اما بیگانگان به راحتی می‌توانند نتیجه اشتباه بگیرند. که بالش و قابلمه سوپ چیزی بود که ما قصد داشتیم با هم از آن استفاده کنیم. و این تا کنون زمانی اتفاق افتاده است که ما انسان‌ها سعی کردیم بفهمیم هوش مصنوعی با چه سیستمی کار می‌کند. به گفته سورن هاوبرگ، با این حال، این اکنون به گذشته تبدیل شده است:
«در تحقیقات اساسی خود، ما یک راه حل سیستماتیک برای بازگشت نظری پیدا کرده‌ایم، به طوری که بتوانیم پیگیری کنیم که کدام الگوها در واقعیت ریشه دارند و کدام با فشرده سازی ابداع شده‌اند. هنگامی که بتوانیم این دو را از هم جدا کنیم، ما به عنوان انسان می‌توانیم درک بهتری از نحوه عملکرد هوش مصنوعی داشته باشیم، و همچنین اطمینان حاصل کنیم که هوش مصنوعی به الگوهای غلط گوش نمی‌دهد.»
سورن و همکارانش از DTU از ریاضیاتی استفاده کرده‌اند که در قرن 18 برای طراحی نقشه‌ها استفاده شده است. این مدل‌های کلاسیک هندسی کاربردهای جدیدی در یادگیری ماشین پیدا کرده‌اند، جایی که می‌توان از آن‌ها برای تهیه نقشه چگونگی حرکت فشرده سازی داده‌ها به اطراف استفاده کرد و بنابراین از طریق شبکه عصبی AI به عقب رفت و فرایند یادگیری را درک کرد.
در بسیاری از موارد، صنعت از استفاده از هوش مصنوعی خودداری می‌کند، به ویژه در بخش‌هایی از تولید که ایمنی یک پارامتر مهم است. از ترس از دست دادن کنترل سیستم، به طوری که در صورت برخورد الگوریتم با موقعیت‌هایی که الگوریتم تشخیص نمی‌دهد و باید خود اقدام کند، تصادف یا خطایی رخ می‌دهد.
تحقیقات جدید بخشی از کنترل و درک از دست رفته را به شما بازمی‌گرداند. به احتمال زیاد ما از هوش مصنوعی و یادگیری ماشین در زمینه‌هایی استفاده می‌کنیم که امروز انجام نمی‌دهیم.
وی افزود: «مسلماً هنوز بخشی از قسمت‌های غیرقابل توضیح باقی مانده است، زیرا بخشی از سیستم از خود مدل ناشی شده است که الگویی را در داده‌ها پیدا کرده است. ما نمی‌توانیم تأیید کنیم که الگوها بهترین هستند، اما می‌توانیم ببینیم آیا معقول هستند. سورن هاوبرگ می‌گوید این یک گام بزرگ برای اعتماد بیشتر به هوش مصنوعی است.»
این روش ریاضی به همراه موسسه فناوری کارلسروهه و گروه صنعتی Bosch برای هوش مصنوعی در آلمان توسعه داده شد. دومی نرم افزاری را از DTU در الگوریتم‌های ربات خود پیاده سازی کرده است. نتایج به تازگی در مقاله‌ای ارائه شده در کنفرانس Robotics: Science and Systems منتشر شده است.
