سوگیری داده ها یک مسئله شناخته شده اما اصلاح نشده برای کسب و کار ها

24 آوریل 2023 – یادگیری ماشینی یا برنامه‌های “AI” در برابر شکست‌های انسانی مصون نیستند – که می‌تواند منجر به مسئولیت‌هایی برای کسب و کار ها در بی‌احتیاطی شود.

در حالی که درک این موضوع که الگوریتم‌ها و برنامه‌های یادگیری ماشینی از سوگیری مصون نیستند، به طور فزاینده‌ای جریان اصلی است، برنامه‌های جاری برای تصحیح سوگیری در برنامه‌های مذکور در میان کسب‌وکارهایی که از آن‌ها استفاده می‌کنند، نیستند.

این نتیجه یک مطالعه اخیر است که توسط Progress Software Corp.، یک ارائه دهنده نرم افزار تجاری، در مورد آگاهی رهبران کسب و کار از سوگیری داده ها انجام شده است. این مطالعه که توسط شرکت تحقیقاتی مستقل Insight Avenue انجام شد، بر اساس 640 مصاحبه با متخصصان فناوری اطلاعات در 12 کشور، از جمله ایالات متحده، انجام شد.

“سوگیری داده ها” اصطلاحی است که در این مطالعه برای اشاره به اثرات الگوریتم های اجرا شده بر روی داده های بایاس استفاده می شود. در حالی که برنامه‌های «هوش مصنوعی» و یادگیری ماشین از نظر فنی قادر به انجام خطاهای انسانی نیستند، این برنامه‌ها بر اساس داده‌های وارد شده توسط انسان‌های عادی و خطاپذیر «آموزش داده می‌شوند». اگر مجموعه داده‌های مورد استفاده ناقص یا مغرضانه باشد، برنامه‌های نرم‌افزاری می‌توانند مشکلاتی را که معمولاً فقط از سوی افراد می‌آیند، مانند تبعیض نژادی یا پیش‌بینی‌هایی با خطاهای انسان‌مانند، بازسازی کنند.

این مطالعه نشان داد که در حالی که 66 درصد از مصاحبه شوندگان انتظار دارند که سازمان هایشان بیشتر به برنامه ها و الگوریتم ها برای تصمیم گیری در سال های آینده تکیه کنند، 65 درصد از پاسخ دهندگان معتقد بودند که سوگیری قبلاً در سیستم های مورد استفاده شرکت آنها وجود دارد و تنها 13 درصد گفتند که هر چیزی وجود دارد. برای جلوگیری از آن انجام می شود.

نتایج داده‌های مغرضانه، برنامه‌هایی را که منجر به تصمیم‌گیری‌های مغرضانه می‌شوند، مشکلات جدی برای شرکت‌هایی دارد که به دنبال کسب استعداد و اجتناب از شکایت هستند. این نظرسنجی خاطرنشان می‌کند که یک شرکت خرده‌فروشی بزرگ و نامشخص دریافته است که یکی از الگوریتم‌های استخدامش نسبت به در نظر گرفتن نامزدهای زن واجد شرایط برای مشاغل فناوری در شرکت مغرضانه شده است.

در بیانیه ای همراه با گزارش، جان اینسورث، جنرال موتورز برای برنامه کاربردی و پلت فرم داده Progress، به تأثیرات نتیجه گیری ماشینی بر اساس داده های مغرضانه اشاره کرد.

آینزورث گفت: «هر روز، سوگیری می‌تواند بر عملیات تجاری و تصمیم‌گیری تأثیر منفی بگذارد – از حاکمیت و اعتماد مشتری از دست رفته گرفته تا پیامدهای مالی و قرار گرفتن در معرض احتمالی قانونی و اخلاقی.»

بر اساس تجزیه و تحلیل Progress، بهترین راه‌ها برای مقابله با سوگیری داده‌ها استفاده از یک پلتفرم شفاف با سیستمی موثر برای ردیابی تغییرات داده‌ها و همچنین داشتن فرهنگ شرکتی و منابع انسانی متنوع و عاری از تعصب است.