27 آوریل 2023 – نوشته مایکل تیموتی بنت، اعتبار: مایکل تیموتی بنت/ تولید شده با استفاده از Midjourney، نویسنده ارائه شده است
برای ساخت یک ماشین باید دانست که قطعات آن چیست و چگونه با هم قرار می گیرند. برای درک ماشین، باید بدانیم که هر قطعه چه کاری انجام می دهد و چگونه به عملکرد آن کمک می کند. به عبارت دیگر، فرد باید بتواند “مکانیک” نحوه عملکرد آن را توضیح دهد.
طبق یک رویکرد فلسفی به نام مکانیسم، انسان‌ها مسلماً نوعی ماشین هستند – و توانایی ما برای فکر کردن، صحبت کردن و درک جهان نتیجه یک فرآیند مکانیکی است که ما نمی‌فهمیم.
برای درک بهتر خود، می‌توانیم سعی کنیم ماشین‌هایی بسازیم که توانایی‌های ما را تقلید کنند. با انجام این کار، ما یک درک مکانیکی از آن ماشین ها خواهیم داشت. و هر چه ماشین بیشتر رفتار ما را نشان دهد، ممکن است به توضیح مکانیکی از ذهن خود نزدیک‌تر باشیم.
این همان چیزی است که هوش مصنوعی را از منظر فلسفی جالب می کند. مدل‌های پیشرفته‌ای مانند GPT4 و Midjourney اکنون می‌توانند مکالمه انسان را تقلید کنند، امتحانات حرفه‌ای را پشت سر بگذارند و تصاویر زیبایی را تنها با چند کلمه ایجاد کنند.
با این حال، با وجود همه پیشرفت‌ها، سؤالات بی‌پاسخ باقی می‌مانند. چگونه می توانیم چیزی را خودآگاه کنیم، یا آگاه باشیم که دیگران از آن آگاه هستند؟ هویت چیست؟ معنی چیست؟
اگرچه توصیفات فلسفی رقیب زیادی در مورد این چیزها وجود دارد، اما همه آنها در برابر توضیح مکانیکی مقاومت کرده اند.
در رشته ای از مقالات پذیرفته شده برای شانزدهمین کنفرانس سالانه هوش عمومی مصنوعی در استکهلم، توضیحی مکانیکی برای این پدیده ها ارائه می کنم. آنها توضیح می‌دهند که چگونه می‌توانیم ماشینی بسازیم که از خودش، دیگران، از خود آن‌طور که دیگران درک می‌کنند و غیره آگاه باشد.
هوش و نیت
بسیاری از چیزهایی که ما آن را هوش می نامیم به پیش بینی هایی درباره جهان با اطلاعات ناقص خلاصه می شود. هر چه یک ماشین برای پیش‌بینی دقیق به اطلاعات کمتری نیاز داشته باشد، «هوشمندتر» است.
برای هر کار مشخصی، محدودیتی برای میزان سودمندی هوش وجود دارد. به عنوان مثال، بیشتر بزرگسالان آنقدر باهوش هستند که رانندگی ماشین را یاد بگیرند، اما هوش بیشتر احتمالا آنها را راننده بهتری نخواهد کرد.
مقالات من حد بالای هوش را برای یک کار معین، و آنچه برای ساخت ماشینی لازم است که به آن دست یابد، توصیف می کند.
من نام این ایده را تیغ Bennett’s Razor گذاشتم که در اصطلاح غیر فنی این است که “توضیحات نباید بیشتر از حد لازم باشد”. این با تفسیر رایج از تیغ اوکام (و توصیفات ریاضی آن)، که ترجیحی برای توضیحات ساده تر است، متمایز است.
تفاوت ظریف، اما قابل توجه است. در آزمایشی که به مقایسه مقدار داده ای که سیستم های هوش مصنوعی برای یادگیری ریاضیات ساده نیاز دارند، می پردازد، هوش مصنوعی که توضیحات کمتر خاص را ترجیح می دهد تا 500 درصد بهتر از توضیح های ساده تر است.
کاوش در مفاهیم این کشف من را به یک توضیح مکانیکی از معنا سوق داد – چیزی به نام “عمل شناسی گریسی”. این مفهومی در فلسفه زبان است که به چگونگی ارتباط معنا با قصد می پردازد.
برای زنده ماندن، یک حیوان باید پیش بینی کند که محیطش، از جمله حیوانات دیگر، چگونه عمل می کند و چگونه واکنش نشان می دهد. در رها کردن ماشین بدون مراقبت در نزدیکی سگ تردیدی ندارید، اما همین را نمی‌توان در مورد ناهار استیک شما نیز گفت.
باهوش بودن در یک جامعه به معنای توانایی استنباط قصد دیگران است که از احساسات و ترجیحات آنها نشات می گیرد. اگر قرار بود ماشینی برای کاری که به تعامل با انسان بستگی دارد به حد بالای هوش برسد، باید به درستی قصد استنباط کند.
و اگر ماشینی بتواند به رویدادها و تجربیاتی که برایش رخ می‌دهد، قصد و نیت را نسبت دهد، این مسئله هویت و آگاهی از خود و دیگران را مطرح می‌کند.
علیت و هویت
وقتی باران می بارد جان را می بینم که بارانی پوشیده است. اگر من جان را مجبور کنم در یک روز آفتابی بارانی بپوشد، آیا آن باران می بارد؟
البته که نه! برای یک انسان، این واضح است. اما آموزش ظرافت‌های علت و معلولی به یک ماشین دشوارتر است (خوانندگان علاقه‌مند می‌توانند «کتاب چرا» نوشته جودیا پرل و دانا مکنزی را بررسی کنند).
برای استدلال در مورد این چیزها، یک ماشین باید یاد بگیرد که “من باعث شدم آن اتفاق بیفتد” با “من دیدم که اتفاق افتاد” متفاوت است. به طور معمول، ما این درک را در آن برنامه ریزی می کنیم.
با این حال، کار من توضیح می‌دهد که چگونه می‌توانیم ماشینی بسازیم که در حد بالای هوش برای یک کار عمل کند. چنین ماشینی باید بنا به تعریف، علت و معلول را به درستی شناسایی کند و بنابراین روابط علی را نیز استنتاج کند. مقالات من دقیقاً چگونگی آن را بررسی می کنند.
پیامدهای این امر عمیق است. اگر ماشینی یاد بگیرد که «من باعث شدم آن اتفاق بیفتد»، باید مفاهیم «من» (هویتی برای خودش) و «آن» را بسازد.
توانایی استنتاج قصد، یادگیری علت و معلول، و ساختن هویت های انتزاعی همگی به هم مرتبط هستند. ماشینی که برای انجام یک کار به حد بالای هوش می رسد باید همه این توانایی ها را نشان دهد.
این ماشین نه تنها برای خود یک هویت می سازد، بلکه برای هر جنبه ای از هر شی که به توانایی آن در تکمیل کار کمک می کند یا مانع می شود. سپس می‌تواند از اولویت‌های خود به‌عنوان پایه‌ای برای پیش‌بینی آنچه دیگران ممکن است انجام دهند استفاده کند. این شبیه به نحوه گرایش انسان ها به نسبت دادن قصد به حیوانات غیر انسانی است.
بنابراین برای هوش مصنوعی چه معنایی دارد؟
البته، ذهن انسان بسیار بیشتر از برنامه ساده ای است که برای انجام آزمایشات در تحقیقات من استفاده می شود. کار من توصیفی ریاضی از مسیر علّی احتمالی برای ایجاد ماشینی است که مسلماً خودآگاه است. با این حال، مشخصات مهندسی چنین چیزی هنوز حل نشده است.
برای مثال، نیت انسان‌مانند به تجربیات و احساسات انسان‌مانند نیاز دارد، که مهندسی کردن آن کاری دشوار است. علاوه بر این، ما نمی توانیم به راحتی غنای کامل آگاهی انسان را آزمایش کنیم. آگاهی مفهومی گسترده و مبهم است که ادعاهای محدودتر فوق را در بر می گیرد – اما باید از آن متمایز شود.
من توضیحی مکانیکی از جنبه‌های آگاهی ارائه کرده‌ام – اما این به تنهایی غنای کامل آگاهی را که انسان‌ها آن را تجربه می‌کنند، نشان نمی‌دهد. این تنها آغاز راه است و تحقیقات آینده نیاز به گسترش این استدلال ها دارد.
