پرسش و پاسخ: آیا می توانیم به هوش مصنوعی اعتماد کنیم؟

6 مارس 2023 – توسط کیتی پیرس، دانشگاه جان هاپکینز-راما چلاپا اعتبار: ویل کرک / دانشگاه جانز هاپکینز

در زمینه هوش مصنوعی، زمستان‌ها و بهارهایی وجود دارد، مناطقی بی‌ثمر و به دنبال آن انفجارهای مهیج نوآوری و بودجه. راما چلاپا، مهندس دانشگاه جان هاپکینز، که بیش از چهار دهه در این صنعت کار کرده است، می‌گوید در حال حاضر، ما خود را به طور قطعی در میان یک فنر هوش مصنوعی می‌یابیم.

چلاپا، استاد برجسته بلومبرگ در مهندسی برق، کامپیوتر و زیست پزشکی می‌گوید: «هوش مصنوعی این زندگی دیوانه‌وار را دارد که چرخه‌هایی را طی می‌کند. برخی از الگوریتم‌هایی که امروزه از آن‌ها استفاده می‌کنیم از دهه 1960 وجود داشته‌اند، اما آنچه در حال حاضر اتفاق می‌افتد به دلیل انفجار داده‌هایی است که در اختیار داریم تا سیستم‌های خود را هدایت کنیم.

چلاپا می‌گوید که به همه نگرانی‌های پیرامون هوش مصنوعی احترام می‌گذارد – نگرانی‌های مربوط به حریم خصوصی و هک، مشکلات اخلاقی، شواهد آشکار از تعصبات آن، و البته «سناریوی هالیوودی که روبات‌ها وارد می‌شوند و همه ما را می‌کشند»، او با خنده می‌گوید.

درباره دلیل نوشتن کتابش «آیا می‌توانیم به هوش مصنوعی اعتماد کنیم؟» او می‌گوید که با اریک نیللر، یکی از نویسندگان ، قرار بود به این چالش‌ها رسیدگی کنند و در عین حال به «مثبت خالص» کلی اشاره کند که معتقد است هوش مصنوعی می‌تواند برای جامعه بشری بیاورد. او می‌گوید: «این فناوری فقط باید به ما کمک کند تا خودمان را بهتر کنیم و کیفیت زندگی‌مان را بهبود ببخشیم.

این کتاب که توسط JHU Press در نوامبر 2022 منتشر شد، در زمینه هوش مصنوعی از منشاء آن پس از جنگ جهانی دوم از طریق انقلاب کامپیوتری دهه‌های 1960 و 1970 تا “بهار هوش مصنوعی” فعلی ما، را بررسی می‌کند، زیرا بازار جهانی برای شرکت‌های هوش مصنوعی بیش از 228 میلیارد دلار تا سال 2026  پیش‌بینی می‌شود.. چلاپا تجربیات خود را در روزهای اولیه یادگیری ماشینی و بینایی رایانه بازگو می کند، دانش همکاران متخصص را به اشتراک می گذارد، و آینده را به استفاده های امیدوارکننده در پزشکی، اتومبیل های خودران و ایمنی عمومی، در میان عرصه های دیگر می نگرد.

چلاپا که تازه به عضویت آکادمی ملی مهندسی انتخاب شده و وابسته به مرکز علوم تصویربرداری، مرکز پردازش زبان و گفتار، مؤسسه استقلال تضمین شده و مؤسسه ریاضی علوم داده است، اخیراً با هاب در مورد خود صحبت کرده است. کتاب، کار فعلی او در هوش مصنوعی، و نظر او در مورد الکسا.

در کتاب خود می گویید که هوش مصنوعی در حال حاضر در “مرحله کودک نوپا” است. منظور شما از آن چیست؟

البته در بسیاری از کاربردها هوش مصنوعی می تواند فراتر از یک کودک نوپا پیش رود، اما من به قابلیت های استدلال آن اشاره می کنم. جالب اینجاست که هوش مصنوعی در سال های اولیه خود توسط دانش دامنه و قابلیت های استنتاج هدایت می شد. به نظر می‌رسد طراحی‌های فعلی هوش مصنوعی، که عمدتاً توسط «داده‌های بزرگ» هدایت می‌شوند، استدلال و دانش حوزه مورد نیاز برای تصمیم‌گیری را تغییر داده‌اند.

مدتی طول می کشد تا انسان ها استدلال عقل سلیم را توسعه دهند، درست است؟ شما از تجربه یاد می گیرید. بچه‌های دو ساله از مثال‌ها یاد می‌گیرند—شما به آنها نشان می‌دهید که یک فنجان چگونه است، آنها می‌توانند فنجان‌های دیگر را شناسایی کنند. هوش مصنوعی می تواند این کار را انجام دهد اما به داده های بسیار بیشتری نیاز دارد. اگر از یک کودک دو ساله بپرسید فنجان کجاست و حوله ای روی آن قرار دهید، احتمالاً بچه حوله را بیرون می آورد و می گوید: “اینجاست! AI ممکن است لزوماً این کار را هنوز با همان کارایی انجام ندهد. کودکان نوپا همچنین می توانند تصور کنند، استنباط و مقایسه کنند. در حالی که مدل‌های مولد هوش مصنوعی قادر به ترکیب تصاویر، ویدیوها، متن و زبان جدید هستند، انسان‌ها در تصور سناریوهای «چه می‌شد اگر» بسیار بهتر هستند.

با این حال، سیستم‌های هوش مصنوعی با آنچه که ما یادگیری خود نظارتی می‌نامیم هوشمندتر می‌شوند و در حال یادگیری ایجاد این نوع ارتباطات هستند.

چگونه از هوش مصنوعی در زندگی روزمره خود استفاده می کنید؟ مثلا آیا از الکسا استفاده می کنید؟

فکر می‌کنم آن دستگاه‌ها جالب هستند، اما واقعاً هر اطلاعاتی را که نیاز دارم، می‌توانم فقط در وب پیدا کنم. یکی از دانش‌آموزان سابقم یک Google Home به من داد و من به نوعی با آن بازی می‌کردم، موسیقی پخش می‌کردم و همه چیز. پسر من الکسا دارد و ما از آن سؤال می کنیم.

اما از نظر هوش مصنوعی که من در واقع از آن استفاده می کنم، آنها سیستم هایی هستند که اکنون به طور طبیعی در تمام تجربیات وب و گوشی های هوشمند ما یکپارچه شده اند. به عنوان مثال، وقتی کتابی را در آمازون می‌خرید و کتاب‌های مشابهی را که ممکن است دوست داشته باشید توصیه می‌کند، یا وقتی سه فیلم از یک ژانر را در نتفلیکس تماشا می‌کنید و آن الگو را انتخاب می‌کند. نقشه گوگل که من همیشه استفاده می کنم بر اساس الگوریتم جستجوی هوش مصنوعی کلاسیک است. برخی از افراد نسبت به این نوع چیزها محتاط هستند و می گویند: “اوه، نه، این مرا ردیابی و کنترل می کند” اما در واقع آنها فقط پیشنهاد هستند. آنها شما را مجبور به تماشای چیزی یا دریافت کارت اعتباری خود نمی کنند.

شما و تیمتان در حال حاضر در هاپکینز روی چه نوع پروژه های هوش مصنوعی کار می کنید؟

ما در حال مقابله با هوش مصنوعی از زوایای مختلف هستیم. ما در حال کار بر روی محافظت از هوش مصنوعی در برابر حملات دشمن هستیم. ما در حال طراحی الگوریتم هایی هستیم که از کاهش سوگیری ها اطمینان حاصل می کند. ما در حال کار بر روی برنامه‌های مبتنی بر هوش مصنوعی برای جنبه‌های مختلف پزشکی هستیم – برای مثال با مرکز اوتیسم و یک واحد سرطان در تعامل هستیم و روی مشکلات مربوط به آسیب‌شناسی، پیری سالم و مراقبت از چشم کار می‌کنیم.

ما همچنین در حال بررسی برخی از مشکلات بینایی کامپیوتری سنتی هستیم – ایجاد تشخیص چهره یا تشخیص انسان تا عمق هزار متری. و این فقط چهره نیست، ما به دنبال بهبود تشخیص بدن و راه رفتن، مانند نحوه راه رفتن افراد هستیم.

پروژه جدید دیگری که من در آن شرکت خواهم کرد، مدل‌سازی مکان‌های مختلف جهان و تجسم آنها در زمان‌های مختلف روز یا فصول مختلف است که می‌تواند برای ماموریت‌های نجات یا چیزهایی از این نوع مفید باشد.

با همکاری آزمایشگاه فیزیک کاربردی، ما در حال بررسی اثربخشی داده‌های مصنوعی – داده‌های تولید شده مصنوعی که سناریوهای دنیای واقعی را تقلید می‌کنند – در طراحی سیستم‌های هوش مصنوعی هستیم. داده های مصنوعی نیازی به حاشیه نویسی ندارند، زیرا ما آنها را تولید می کنیم، و تا حد زیادی نگرانی های مربوط به حریم خصوصی را کاهش می دهد. مهمتر از آن، هوش مصنوعی را قادر می سازد تا بهتر تصور کند و به خوبی به محیط ها و موقعیت های جدید تعمیم دهد. همانطور که می خواهم بگویم، حسگرها فقط می توانند آنچه اتفاق افتاده را ثبت کنند. داده‌های مصنوعی می‌توانند سناریوهای «چه می‌شد اگر» را منعکس می‌کنند که منجر به سیستم‌های هوش مصنوعی قابل تعمیم می‌شود. من به عنوان یک متخصص مادام العمر رویکردهای مولد به بینایی کامپیوتری، از این امکان خوشحالم. با این حال، ما نمی‌توانیم اجازه دهیم این تخیل از بین برود و بر یکپارچگی سیستم‌های هوش مصنوعی ما تأثیر بگذارد.

آیا می توانید در مورد اینکه چگونه هوش مصنوعی می تواند به پیری کمک کند بیشتر صحبت کنید؟ می دانم که شما بخشی از همکاری هوش مصنوعی و فناوری برای تحقیقات پیری در هاپکینز هستید.

این گروه توسط موسسه ملی پیری تامین می شود و تخصص های بالینی و مهندسی را گرد هم می آورد. فرض اصلی این است که دستگاه ها و سیستم های هوش مصنوعی مفید را در دست افراد مسن و مراقبان آنها قرار دهیم تا کیفیت زندگی و ایمنی و طول عمر را بهبود بخشد. به عنوان مثال، ما روبات هایی را متصور هستیم که می توانند با بیماران مبتلا به اختلالات شناختی، زوال عقل یا آلزایمر تعامل داشته باشند و به آنها کمک کنند تا کارهای روزانه خود را انجام دهند. ما در حال بررسی استفاده از الکسا برای انجام تست‌های شناختی در خانه و استفاده از ساعت‌های اپل برای ارائه هشدار درباره سقوط یا سرگردانی احتمالی هستیم.این یکی از دلایل بزرگی است که من به هاپکینز آمدم، با ایده کاوش هوش مصنوعی و یادگیری ماشینی برای پزشکی، و من واقعاً از این همکاری ها هیجان زده هستم.

از زمانی که کتاب شما منتشر شد، شاهد انفجار ChatGPT بودیم. نظر شما درباره تبلیغات پیرامون آن چیست و آن فناوری را به کجا می‌بینید؟

ChatGPT آخرین توسعه در آنچه به عنوان مدل های زبان بزرگ شناخته می شود است. در حالی که ChatGPT نقطه عطف مهمی است، ما باید مراقب نحوه استفاده از آن باشیم. اکنون نمونه های زیادی وجود دارد که چگونه ChatGPT چیزها را درست می کند! این نگران کننده است. امیدوارم با آموزش بیشتر شاهد پیشرفت باشیم.

چرا همانطور که در کتاب خود می گویید معتقدید که هوش مصنوعی تأثیر مثبت خالصی بر جامعه خواهد داشت؟

ما به عنوان انسان باید تصمیمات زیادی بگیریم و هوش مصنوعی می تواند به برداشتن بار کمک کند.

بگذارید یک مثال از پزشکی بزنم. ما به نقطه‌ای خواهیم رسید که هوش مصنوعی می‌تواند به طور جامع به تمام پرونده‌های سلامت الکترونیکی و تصاویر تشخیصی ما، همه داروهایی که مصرف کرده‌ایم نگاه کند و حتی بتواند مکالمات بیمار با پزشک ما را پردازش کند. و این یک نمایه بسیار شخصی ایجاد می کند که می تواند به ما کمک کند سلامت خود را نظارت کنیم، پزشکان را در مورد نیازهای فردی خود آگاه کنیم و هر گونه مشکل بالقوه را در آینده پیش بینی کنیم.

بیایید به خودروهای خودران نگاه کنیم. در مورد خودروی تمام اتوماتیک به عنوان هدف نهایی صحبت می‌شود، و ما از رسیدن به آن کوتاهی کرده‌ایم، اما در عین حال، ما در حال توسعه بسیاری از ویژگی‌های مختلف برای کمک به ما هستیم – دوربین‌هایی که به ما نشان می‌دهند در هنگام دنده عقب چه چیزی پشت ماست، هشدار ماشین‌ها در خطوط مجاور و … این ویژگی ها در نهایت منجر به تصادفات کمتر و مرگ و میر کمتری می شود.

بنابراین فکر می‌کنم هوش مصنوعی می‌تواند به نوعی دوستی در کنار شما باشد و این به ما واگذار می‌شود که تعیین کنیم چقدر از آن به کمک نیاز داریم. می دانید، گاهی اوقات دوستان ما در زندگی واقعی رفتار خوبی ندارند. هوش مصنوعی نیز می‌تواند اشتباه کند – این یک الگوریتم است و فقط می‌تواند کاری را که ما به آن آموزش داده‌ایم انجام دهد.

این ایده که هوش مصنوعی می‌تواند به یک هیولا یا نابودگر تبدیل شود، بیشتر چیزهای هالیوودی است، اما من برخی از افراد جدی هوش مصنوعی را نیز می‌شناسم که آن نوع سناریو را نیز معتبر می‌دانند. شخصاً با فناوری‌هایی که در حال حاضر برای ما شناخته شده‌اند، نمی‌بینم که چنین اتفاقی بیفتد.

بنابراین برای پاسخ به سؤالی که عنوان شما مطرح می کند، «آیا می توانیم به هوش مصنوعی اعتماد کنیم؟»، پاسخ شما این است:

این یک بله است. (می خندد) این یک بله واجد شرایط است.

دوست دارم بگویم، بیایید در مورد انسان در مقابل هوش مصنوعی صحبت نکنیم. بیایید در مورد انسان و هوش مصنوعی صحبت کنیم. ما می توانیم مشکلات را شناسایی کنیم و برای بهبود آنها تلاش کنیم. ما می‌توانیم هوش مصنوعی را برای خودمان و با ما کار کنیم.