سوگیری داده ها به پیش بینی های آب و هوایی ناقص هوش مصنوعی دامن می زند

24 آگوست 2023 – توسط Dann Okoth، SciDev.Net

پیش بینی طراحی انسان در حلقه یک هوش مصنوعی اقدام آب و هوا. ساختارهای اجتماعی و هوش جمعی دانش معرفتی را برای هوش مصنوعی اقدام اقلیمی فراهم می کند. اعتبار: npj Climate Action (2023

محققان هشدار می دهند که کشورهای در حال توسعه به دلیل پیش بینی های نامعتبر آب و هوا ناشی از داده های مغرضانه وارد شده به ابزارهای هوش مصنوعی (AI) در خطر از دست دادن اقدامات مهم آب و هوایی جهانی هستند.

بر اساس مقاله منتشر شده در 17 اوت در npj Climate Action، تعصبات در مجموعه داده های آب و هوا، که ابزارهای مدل سازی آب و هوا مبتنی بر هوش مصنوعی بر آنها تکیه می کنند، می تواند سودمندی چنین فناوری های نوظهوری را برای دانشمندان اقلیم که سعی در پیش بینی سناریوهای آینده و هدایت اقدامات جهانی دارند، محدود کند .

برنامه‌های رایانه‌ای هوش مصنوعی که در علم آب و هوا استفاده می‌شوند، برای جستجوی الگوها از میان مجموعه داده‌های پیچیده طراحی شده‌اند.به گفته محققان، اما کمبود اطلاعات از مکان‌ها، دوره‌های زمانی خاص یا گروه‌های اجتماعی «حفره‌هایی» در داده‌ها ایجاد می‌کند که می‌تواند منجر به پیش‌بینی‌های نادرست آب‌وهوا و نتیجه‌گیری‌های گمراه‌کننده شود.

رامیت دبنات، نویسنده اصلی، استادیار علوم اجتماعی محاسباتی در دانشگاه کمبریج، بریتانیا، می‌گوید این شکاف‌های داده در جنوب جهانی به دلیل چالش‌های دسترسی به مجموعه داده‌ها برای همه انواع مدل‌سازی و اهداف تحلیلی بارزتر است.

دبنات به SciDev.Net گفت: «تعیین دقیق شکاف داده‌ها دشوار است، اما روند کلی این است که اکثر شرکت‌های آب و هوایی تحت رهبری هوش مصنوعی در شمال جهانی مستقر هستند.

به گفته Debnath، این بدان معناست که “احتمال زیادی وجود دارد که مدل ها به خوبی کالیبره شده و برای سناریوهای جهانی شمال ساخته شوند، زیرا آنها از قبل دارای داده های مناسب و زیرساخت نظارت آب و هوا هستند.”

سوگیری ها را می توان به طور کلی به برنامه ریزی متعصبانه، مجموعه داده های سوگیری و الگوریتم های بایاس طبقه بندی کرد. این مطالعه می‌گوید برنامه‌نویسی و الگوریتم‌ها به دلیل ریاضی بودن آسان‌تر اصلاح می‌شوند.

به گفته محققان، با این حال، مجموعه داده‌های مغرضانه سخت‌ترین هستند، زیرا داده‌ها وجود ندارند و به سرمایه‌گذاری و سرمایه‌گذاری انسانی قابل توجهی نیاز است تا آن را از پایه بسازیم.به عنوان مثال، بسیاری از نمونه‌های هوش مصنوعی مولد – فناوری که می‌تواند محتواهایی مانند متن و تصویر تولید کند – نشان می‌دهد که با موضوعاتی در سراسر جنوب جهانی دست و پنجه نرم می‌کند، به‌ویژه وقتی در مورد زمینه‌های محلی در جنوب صحرای آفریقا، هند یا هر کشور غیرغربی دیگری از او سوال شود.

او افزود: «به طور مشابه، بسیاری از گزارش‌ها حاکی از آن است که فناوری‌های هوش مصنوعی نسل کنونی اغلب سوگیری‌هایی را در نتایج درخواست‌های شغلی بر اساس نام، رنگ پوست و غیره نشان می‌دهند.»

چنین سوگیری‌هایی، اگرچه مستقیماً به اقدامات آب و هوایی مربوط نمی‌شوند، نشان می‌دهند که فقدان مجموعه داده‌های نماینده یک چالش در استفاده از ابزارهای هوش مصنوعی برای هر شکلی از اهداف تصمیم‌گیری است.»

به گفته محققان، پیامد داده های اقلیمی مغرضانه این است که پیش بینی های نادرستی از رویدادهای شدید آب و هوایی ارائه می دهد.

کشورهای جنوبی فقیرتر در حال حاضر در برابر تأثیرات تغییرات آب و هوایی آسیب پذیرتر هستند. آنها استدلال می‌کنند که پیش‌بینی‌های نادرست به دلیل جانبدارانه یا کمبود مجموعه داده‌ها، تلاش‌های کاهش و انطباق را کاهش می‌دهد – که منجر به آسیب‌های بیشتر ناشی از اقلیم به اموال، سرمایه انسانی و اجتماعی می‌شود.

دبنات، که همچنین یکی از همکاران طرح تغییرات آب و هوایی کمبریج  است، گفت: «مهم ترین یافته مطالعه ما این است که عدالت داده ها می تواند کلیدی برای عدالت اقلیمی باشد.

“توصیه ما این است که هر کسی که یک هوش مصنوعی اقدام اقلیمی ایجاد می کند باید از شکاف های داده ها و سوگیری های تعبیه شده و اقدامات مورد نیاز برای کاهش چنین شکاف ها آگاه باشد.”

نویسندگان پیشنهاد می‌کنند که «حفره‌های داده» را می‌توان با دانش بشری با استفاده از طراحی به اصطلاح انسان در حلقه پر کرد تا برنامه‌های تغییر آب و هوای هوش مصنوعی را برای بررسی قابلیت اطمینان و زمینه داده‌های مورد استفاده برای بهبود دقت پیش‌بینی‌ها ارائه دهد.

آنها به عنوان نمونه مدل چت ربات هوش مصنوعی ChatGPT را ذکر می کنند که می تواند از کاربران انسانی سؤالات بعدی بپرسد، اشتباهات را بپذیرد، موقعیت های نادرست را به چالش بکشد و درخواست های نامناسب را رد کند.

محققان همچنین تقویت زیرساخت‌های داده در جنوب جهانی و سرمایه‌گذاری در استارت‌آپ‌های داده‌های خانگی مانند COCO-Africa را توصیه می‌کنند، پلتفرمی که برای پر کردن شکاف داده‌ها با جمع‌آوری و مدیریت مجموعه‌های داده محلی و زمینه محور از کشورهای جنوب صحرای آفریقا طراحی شده است .

به گفته Joab O. Odhiambo، مدرس ارشد دپارتمان ریاضیات در دانشگاه علم و فناوری Meru در کنیا، هوش مصنوعی برای پایش دقیق آب و هوا در آفریقا، به ویژه برای جلوگیری از بلایای آب و هوایی ضروری است.

او به SciDev.Net گفت: «هوش مصنوعی می‌تواند نظارت بر آب و هوا و مدیریت بلایا را با افزایش دقت پیش‌بینی و امکان واکنش به موقع به رویدادهایی مانند خشکسالی، سیل و موج گرما متحول کند.

با این حال، وی تأکید می کند که عملی بودن نظارت دقیق آب و هوا و مداخلات بعدی به عوامل مختلفی از جمله فناوری، زیرساخت، آموزش، بودجه و حاکمیت بستگی دارد.

Obed Ogega، دانشمند آب و هوا و کارشناسی ارشد برنامه ناگر در آکادمی علوم آفریقا (AAS)، می‌گوید استفاده از ابزارهای هوش مصنوعی در پیش‌بینی تغییرات آب و هوا و تطبیق یا استراتژی‌های کاهش هنوز در مرحله توسعه است.

اوگگا به SciDev.Net گفت: “مدتی طول می کشد تا بتوانیم درک کاملی از دقت [یا] اثربخشی ابزارهای هوش مصنوعی در علم آب و هوا و اقدامات آب و هوایی داشته باشیم.”

وی خاطرنشان کرد که به دلیل داده‌های مشاهده‌ای محدودتر در مناطقی مانند جنوب صحرای آفریقا که می‌توان از آنها برای “آموزش” ابزارهای هوش مصنوعی استفاده کرد، احتمالاً “حفره‌های” اشاره شده در مقاله در آنجا بزرگتر بوده و خطر اطلاعات نادرست بیشتر است .

او گفت: «همانطور که در مقاله اشاره شد، در استفاده از ابزارهای هوش مصنوعی نیاز به رویکرد «انسان در حلقه» وجود دارد – و این نیاز در کشورهای در حال توسعه که شکاف‌های داده قابل توجهی در آن‌ها وجود دارد، حتی مهم‌تر است.