پدرخوانده هوش مصنوعی گوگل را ترک می‌کند و درباره خطرات فناوری هشدار می‌دهد

2 مه 2023 -توسط مت اوبرین و وایت گرانتام فیلیپس

دانشمند کامپیوتر، جفری هینتون، که شبکه‌های عصبی مورد استفاده در برنامه‌های هوش مصنوعی را مطالعه می‌کند، در مانتین ویو گوگل، کالیفرنیا، ، 25 مارس 2015 عکس می‌گیرد. هینتون، مردی که به طور گسترده به عنوان “پدرخوانده” هوش مصنوعی شناخته می‌شود، گوگل را ترک کرد – با پیامی که نگرانی های خود را در مورد خطرات احتمالی ناشی از همان فناوری که او در ساخت آن کمک کرده است به اشتراک می گذارد. اعتبار: AP Photo/Noah Berger

به صدا درآوردن زنگ خطر در مورد هوش مصنوعی به یک سرگرمی محبوب در عصر ChatGPT تبدیل شده است که توسط چهره های برجسته ای مانند ایلان ماسک، روشنفکر چپگرا نوام چامسکی و دولتمرد بازنشسته 99 ساله هنری کیسینجر مورد استفاده قرار گرفت.

اما این نگرانی های خودی ها در جامعه تحقیقاتی هوش مصنوعی است که توجه خاصی را به خود جلب می کند. جفری هینتون، محقق پیشگام و به اصطلاح “پدرخوانده هوش مصنوعی” از نقش خود در گوگل استعفا داد تا بتواند آزادانه تر در مورد خطرات فناوری که به ایجاد آن کمک کرده صحبت کند.

در طول چندین دهه فعالیت حرفه ای هینتون، کار پیشگامانه هینتون در زمینه یادگیری عمیق و شبکه های عصبی به پایه گذاری بسیاری از فناوری هوش مصنوعی که امروزه می بینیم کمک کرد.

در ماه‌های اخیر هجمه‌ای از معرفی AI وجود داشته است. استارت آپ OpenAI مستقر در سانفرانسیسکو، شرکتی که توسط مایکروسافت پشتیبان ChatGPT است، آخرین مدل هوش مصنوعی خود، GPT-4 را در ماه مارس عرضه کرد. دیگر غول‌های فناوری روی ابزارهای رقیب سرمایه‌گذاری کرده‌اند، از جمله Google’s “Bard”.

هینتون به بی بی سی گفت: برخی از خطرات چت ربات های هوش مصنوعی “بسیار ترسناک” هستند. در حال حاضر، تا آنجا که من می توانم بگویم، آنها از ما باهوش تر نیستند.

هینتون در مصاحبه‌ای با MIT Technology Review به «بازیگران بد» اشاره کرد که ممکن است از هوش مصنوعی به روش‌هایی استفاده کنند که می‌تواند تأثیرات مخربی بر جامعه داشته باشد – مانند دستکاری در انتخابات یا تحریک خشونت.

هینتون، 75 ساله، می گوید که از گوگل بازنشسته شد تا بتواند به عنوان فردی که دیگر برای این غول فناوری کار نمی کند، آشکارا در مورد خطرات احتمالی صحبت کند.

او به MIT Technology Review گفت: «من می‌خواهم در مورد مسائل ایمنی هوش مصنوعی بدون نگرانی در مورد نحوه تعامل آن با تجارت گوگل صحبت کنم. “تا زمانی که گوگل به من پول می دهد، نمی توانم این کار را انجام دهم.”

هینتون از زمان اعلام جدایی خود اظهار داشت که گوگل در رابطه با هوش مصنوعی «بسیار مسئولانه عمل کرده است». او به MIT Technology Review گفت که “خیلی چیزهای خوب در مورد گوگل” نیز وجود دارد که می خواهد در مورد آنها صحبت کند – اما این نظرات “بسیار معتبرتر خواهد بود اگر من دیگر در گوگل نباشم.”

گوگل تایید کرد که هینتون پس از 10 سال نظارت بر تیم تحقیقاتی گوگل در تورنتو از سمت خود بازنشسته شده است.

در قلب بحث در مورد وضعیت هوش مصنوعی این است که آیا خطرات اولیه در آینده هستند یا در حال حاضر. در یک طرف سناریوهای فرضی خطر وجودی ناشی از رایانه‌هایی وجود دارد که جایگزین هوش انسانی می‌شوند. از سوی دیگر، نگرانی‌هایی در مورد فناوری خودکار است که در حال حاضر به طور گسترده توسط کسب‌وکارها و دولت‌ها به کار گرفته شده است و می‌تواند باعث آسیب‌های دنیای واقعی شود.

آلوندرا نلسون که تا ماه فوریه رهبری دفتر علوم و سیاست فناوری و فشار آن برای ایجاد دستورالعمل هایی در مورد استفاده مسئولانه از ابزارهای هوش مصنوعی کاخ سفید را بر عهده داشت، می‌گوید: « خوب، کاری که ربات چت انجام داده است این است که هوش مصنوعی را به یک مکالمه ملی و یک گفتگوی بین‌المللی تبدیل کرده است که فقط شامل متخصصان و توسعه‌دهندگان هوش مصنوعی نمی‌شود»..

نلسون ماه گذشته در مصاحبه ای گفت: «هوش مصنوعی دیگر انتزاعی نیست، و فکر می کنم ما چنین فرصتی برای گفت و گوی جدید در مورد اینکه می خواهیم آینده ای دموکراتیک و آینده ای غیر استثمارگرانه با فناوری داشته باشیم، داریم. .

تعدادی از محققان هوش مصنوعی مدت‌هاست که نگرانی‌های خود را در مورد نژاد، جنسیت و سایر اشکال تعصب در سیستم‌های هوش مصنوعی، از جمله مدل‌های زبان بزرگ مبتنی بر متن که بر روی گنجینه‌های عظیم نوشته‌های انسانی آموزش دیده‌اند و می‌توانند تبعیض موجود در جامعه را تشدید کنند، ابراز کرده‌اند.

سارا مایرز وست، مدیر عامل موسسه غیر انتفاعی AI Now گفت: “ما باید یک قدم به عقب برداریم و واقعاً به این فکر کنیم که نیازهای چه کسانی در بحث در مورد خطرات در اولویت قرار می گیرند.” آسیب هایی که امروزه توسط سیستم های هوش مصنوعی اعمال می شود، واقعاً به طور یکنواخت توزیع نشده است.

هینتون یکی از سه پیشگام هوش مصنوعی بود که در سال 2019 برنده جایزه تورینگ شد، افتخاری که به عنوان نسخه صنعت فناوری جایزه نوبل شناخته شده است. دو برنده دیگر، Yoshua Bengio و Yann LeCun نیز در مورد آینده هوش مصنوعی ابراز نگرانی کرده اند.

Bengio، استاد دانشگاه مونترال، در اواخر مارس طوماری را امضا کرد که در آن از شرکت‌های فناوری خواست تا با توقف 6 ماهه توسعه سیستم‌های هوش مصنوعی قدرتمند موافقت کنند، در حالی که LeCun، دانشمند برتر هوش مصنوعی در فیسبوک، متا، تصمیم رویکرد خوش بینانه بیشتری گرفته است.