چرا مدیریت الگوریتمی نیاز به نظارت انسانی دارد؟

27 مه 2022 -توسط رایان موریسون

استفاده از هوش مصنوعی برای مدیریت کار و بهره وری کارکنان – که به عنوان مدیریت الگوریتمی شناخته می شود – با شیوه های کاری ناعادلانه در غول های مختلف فناوری مرتبط است. کارشناسان می گویند در حالی که هر کارفرمایی به دنبال کاهش میزان بهره وری از کارگران خود نیست، تصمیماتی که بر زندگی کارگران تأثیر می گذارد باید همیشه مدیران انسانی را درگیر کند.

مدیریت الگوریتمی معمولاً با شرکت‌های فناوری مرتبط است که از هوش مصنوعی برای فشرده کردن حداکثر بهره‌وری از کارگران خود استفاده می‌کنند. در برخی موارد، با اعمال مدیریت نادرست یا ناعادلانه مرتبط شده است.

به عنوان مثال، سال گذشته Wired گزارش داد که پیک‌های سرویس تحویل غذا Uber Eats گفتند که به دلیل سیستم تشخیص چهره، که برای تأیید رانندگان استفاده می‌شود، اخراج شده‌اند و قادر به تشخیص کارمندان سیاه‌پوست و اقلیت‌های قومی نیست.

کارمندان آمازون همچنین گزارش داده اند که توسط سیستم الگوریتمی HR شرکت بدون هیچ توضیحی اخراج شده اند، به طوری که یکی از کارگران بریتانیایی می گوید که فناوری تماشای آنها بر سلامت روان آنها تأثیر می گذارد و باعث می شود آنها احساس کنند که “یک ماشین” هستند.

اما این فقط غول های فناوری نیستند که از مدیریت الگوریتمی استفاده می کنند. مری تاورز، رییس سیاست و متخصص هوش مصنوعی برای کنگره اتحادیه کارگران (TUC)، می گوید که این فناوری در همه بخش ها استفاده می شود. او می‌گوید: «ما هنوز به یکی از اتحادیه‌های خود برخورد نکرده‌ایم که در آن استفاده از مدیریت الگوریتمی را به یک شکل گزارش نکرده باشند.

تاورز می افزاید: “این بسته به بخش اشکال مختلفی دارد.” برای مثال، در انبار و خرده‌فروشی شامل ردیابی، زمان‌بندی خودکار و تجزیه و تحلیل عملکرد است که می‌تواند بر نرخ‌های پرداخت و سود تأثیر بگذارد.

در بخش‌های دیگر مانند آموزش، سخنرانی‌ها ضبط می‌شود و کارکنان ما نمی‌دانند که آیا فناوری تشخیص چهره برای مدیریت عملکرد و تحلیل احساسات معلمان استفاده می‌شود یا خیر. نکته این است که پیامدهای آن در حال حاضر توسط کارگران زندگی می‌شود.

مدیریت الگوریتمی نیازمند نظارت انسانی است

هوش مصنوعی مزایای خود را در مدیریت نیروی کار دارد. نهاد دولتی ACAS در گزارشی در سال 2020 دریافت: دو مزیت آشکار در پیشنهاد وجود دارد: «بهره‌وری بهبود یافته از طریق صرفه‌جویی در زمان و تصمیم‌گیری کارآمدتر. و بینش های جدید در مورد رفتار در محل کار، روابط انسانی یا سایر روندها در نتیجه پردازش گسترده داده ها.”

پل هنینگر، رئیس جهانی KPMG Lighthouse، مرکز مشاوره داده برتر توضیح می دهد که این بینش های جدید می تواند شامل شناسایی نامزدهای با پتانسیل بالا یا شناسایی کارمندانی باشد که ممکن است در شرف ترک باشند. او توضیح می دهد: «شما می توانید از تجز یه و تحلیل پیش بینی برای شناسایی افرادی که ممکن است در راه خروج باشند، استفاده کنید. “ترفند این است که آن را به درستی درک کنید و آن را زود انجام دهید.”

تصمیم گیری مبتنی بر هوش مصنوعی نیز می تواند قابل پیش بینی باشد، بنابراین از برخی جهات منصفانه تر است. آیها نگوین، مدیر برنامه Labor Futures Initiative در اندیشکده Data & Society، می‌گوید: «کارگران می‌توانند ادعا کنند که یک مدیر می‌تواند بی‌ثبات باشد و یک روز با یک کارمند بد رفتار می‌کند و روز دیگر بهتر است. “این اتفاق با هوش مصنوعی نمی افتد.”

اما مدیریت مبتنی بر هوش مصنوعی زمانی مضر می شود که به عنوان جایگزینی برای تصمیم گیری انسانی استفاده شود. ACAS در گزارش خود توصیه می کند: «الگوریتم ها باید برای مشاوره و کار در کنار مدیران خطوط انسانی استفاده شوند، اما نه برای جایگزینی آنها. “یک مدیر انسانی باید همیشه مسئولیت نهایی هر تصمیمی در محل کار را داشته باشد.”

نگوین می‌گوید که همیشه اینطور نیست. او می گوید که هوش مصنوعی اغلب برای ارزیابی خروجی و کیفیت کار یک کارمند بدون نظارت انسان استفاده می شود. “بخشی که بسیاری را نگران می کند ارزیابی کار کارکنان بدون دخالت انسان است.”

او توضیح می دهد که شرکت ها اغلب تصمیمات مدیریتی را برای صرفه جویی در زمان خودکار می کنند. یکی از جنبه‌هایی که در مورد مدیریت الگوریتمی در مقایسه با مدیریت انسانی متفاوت است، توانایی ارائه بازخورد فوری است، اما این می‌تواند هزینه داشته باشد.

مدیریت مبتنی بر هوش مصنوعی به تیم های متقابل نیاز دارد

بو لیکگارد از شرکت تحلیلگر IDC می گوید که اوبر و آمازون موارد شدید استفاده از هوش مصنوعی در مدیریت نیروی کار هستند و همه شرکت ها تلاش نمی کنند تا از میزان بهره وری را از کارگران خود کم کنند.

او استدلال می کند که در زمینه استعفای بزرگ، بیشتر کارفرمایان بیشتر نگران استخدام، تعامل و حفظ خواهند بود. نگرانی یک مدیر عامل این نیست که آیا نیروی کار من به اندازه کافی کار می کند؟

در نتیجه، او استدلال می کند که هوش مصنوعی بیشتر برای ارزش افزودن به فرآیندهای منابع انسانی موجود استفاده می شود، نه جایگزینی تعامل انسانی.

پنینگر می‌گوید، با این وجود، خطر سوگیری و رفتار ناعادلانه به حدی است که سیستم‌های الگوریتمی باید هم با تخصص فناوری و هم در زمینه منابع انسانی مستقر شوند. او می‌گوید: «بهترین روشی که ما توصیه می‌کنیم این است که هر کسی گروهی از افراد را که با هم کار می‌کنند رهبری می‌کند، باید از داده‌ها درک داشته باشد. “شما به تیمی از افراد داده، فناوری، تجارت و منابع انسانی نیاز دارید که در یک تیم چند منظوره کار کنند.”