نوآوری در مدیریت برای توسعه پایدار

Kolnegar Private Media (Management Innovation for Sustainable Development)

15 اسفند 1402 5:10 ب.ظ

دانشمندان DeepMind در مقاله مشترک خود ادعا می کنند که هوش مصنوعی ممکن است بشریت را نابود کند

لوکیا پاپادوپولوس -14 سپتامبر 2022 -Devrimb/iStock

هوش مصنوعی (AI) پیشرفت چشمگیری داشته است و از بسیاری جهات، جهان را بهبود بخشیده است. اما آیا ممکن است خطرناک شود؟مقاله جدیدی که توسط دانشگاه آکسفورد و محققان Google DeepMind در ماه گذشته در مجله تخصصی هوش مصنوعی منتشر شد، استدلال می‌کند که می‌تواند. این تحقیق تصریح می کند که هوش مصنوعی می تواند یک خطر وجودی برای بشریت باشد.

همه اینها مربوط به شبکه‌های متخاصم یا GAN است که امروزه در توسعه هوش مصنوعی استفاده می‌شود. این سیستم ها در دو معیار عمل می کنند: یک بخش سعی می کند تصویری را از داده های ورودی تولید کند در حالی که بخش دیگر عملکرد آن را درجه بندی می کند. محققان در مقاله خود حدس می زنند که یک هوش مصنوعی پیشرفته می تواند استراتژی تقلب را برای دریافت منافع خود به طور موثرتر در نظر بگیرد و در عین حال اساساً به بشریت آسیب برساند.

مایکل کی کوهن از دانشگاه آکسفور گفت: “در جهانی با منابع بی نهایت، من در مورد اتفاقی که می افتد بسیار نامطمئن هستم. در دنیایی با منابع محدود، رقابت اجتناب ناپذیری برای این منابع وجود دارد.”

و اگر در رقابتی و نزدیک تر با چیزی هستید که می‌تواند شما را در هر مرحله از بین ببرد، پس نباید انتظار پیروزی را داشته باشید..”

این بدان معناست که اگر یک هوش مصنوعی مسئول، برای مثال، پرورش غذای ما بود، ممکن است بخواهد راهی برای اجتناب از انجام این کار پیدا کند و به جای آن فقط یک جایزه دریافت کند. در واقع ممکن است تصمیم بگیرد که تمام وظایف محول شده خود را که احتمالاً برای بقای بشریت ضروری است دور بزند و به طور کلی کار خودش را انجام دهد.

مقاله استدلال می کند که در این مرحله، بشریت در یک بازی حاصل جمع صفر بین نیازهای اساسی خود برای بقا و فناوری گیر کرده است. در این روزنامه آمده است: «باخت در این بازی کشنده خواهد بود.

به این ترتیب، کوهن استدلال کرد که ما نباید به دنبال ایجاد چنین هوش مصنوعی پیشرفته ای باشیم، مگر اینکه ابزاری تضمین شده برای کنترل دقیق آن داشته باشیم.

کوهن در این مصاحبه افزود: “در تئوری، مسابقه دادن به این موضوع هیچ فایده ای ندارد. هر مسابقه ای بر اساس سوء تفاهم است که ما می دانیم چگونه آن را کنترل کنیم.” “با توجه به درک فعلی ما، این چیز مفیدی برای توسعه نیست مگر اینکه اکنون کار جدی انجام دهیم تا بفهمیم چگونه آنها را کنترل می کنیم.”

اگرچه این مقاله به نکات معتبری اشاره می کند، اما باید توجه داشت که در حال حاضر، هوش مصنوعی یک دارایی برای بشریت بوده و نه یک بار. از حذف نیاز انسان به انجام وظایف خسته کننده در زنجیره تامین تا انجام پیش بینی دقیق تر آب و هوا، هوش مصنوعی چندین مزیت را برای بشریت به ارمغان می آورد.

محدودیت‌های خود را داشته است که منجر به مشکلاتی شده است، مانند تبدیل شدن ربات هوش مصنوعی مایکروسافت به نژادپرستی پس از ساعت‌ها حضور در اینترنت. اما این موضوعات همواره مورد توجه محققان قرار گرفته و بیشتر مورد تجزیه و تحلیل قرار گرفته است تا دیگر تکرار نشود.

همه اینها به این معنی است که اگر ما مراقب و کوشا باشیم، می‌توانیم به توسعه هوش مصنوعی ادامه دهیم که به بشریت کمک می‌کند، نه اینکه به آن آسیب برساند.

https://interestingengineering.com

آیا این نوشته برایتان مفید بود؟

مطالب مرتبط

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *