۱۲ سپتامبر ۲۰۲۵ -نوشته لارینا یی، مایکل چوی و راجر رابرتز به همراه استیون شو
یک سال پس از انقلاب هوش مصنوعی عامل، یک درس واضح است: برای انجام خوب آن به کار سخت نیاز است.
یک تحول سازمانی عامل، نوید بهره‌وری بی‌نظیر را می‌دهد. در حالی که برخی از شرکت‌ها از موفقیت‌های اولیه با چنین فعالیت‌هایی لذت می‌برند، بسیاری دیگر دریافت ارزش از سرمایه‌گذاری‌های خود را چالش برانگیز می‌دانند. در برخی موارد، آنها حتی در حال تعدیل نیرو هستند – افرادی را که عامل‌ها در آنها شکست خورده‌اند، دوباره استخدام می‌کنند.
هوش مصنوعی عامل چیست؟
این لغزش‌ها تکامل طبیعی هر فناوری جدیدی است و ما قبلاً این الگو را با نوآوری‌های دیگر دیده‌ایم. برای درک درس‌های اولیه، ما اخیراً بیش از ۵۰ پروژه هوش مصنوعی عامل‌محور که در مک‌کینزی و همچنین ده‌ها پروژه دیگر در بازار رهبری کرده‌ایم را بررسی کرده‌ایم. ما نتایج تحلیل خود را به شش درس خلاصه کرده‌ایم تا به رهبران کمک کنیم تا با موفقیت از هوش مصنوعی عامل‌محور ارزش کسب کنند.
این موضوع مربوط به عامل نیست؛ بلکه مربوط به گردش کار است.
دستیابی به ارزش تجاری با هوش مصنوعی عامل‌محور نیازمند تغییر گردش‌های کار است. با این حال، اغلب سازمان‌ها بیش از حد بر عامل یا ابزار عامل‌محور تمرکز می‌کنند. این امر ناگزیر منجر به عامل‌های بسیار زیبایی می‌شود که در واقع در بهبود گردش کار کلی نقشی ندارند و در نتیجه ارزش چندانی ایجاد نمی‌کنند.
پتانسیل اقتصادی هوش مصنوعی مولد: مرز بعدی بهره‌وری
تلاش‌های هوش مصنوعی عامل‌دار که بر بازطراحی اساسی کل گردش‌های کاری – یعنی مراحلی که شامل افراد، فرآیندها و فناوری می‌شود – تمرکز دارند، احتمال بیشتری دارد که نتیجه مثبتی ارائه دهند. درک اینکه چگونه عامل‌ها می‌توانند در هر یک از این مراحل کمک کنند، مسیر ارزش‌آفرینی است. افراد همچنان در انجام کار نقش محوری خواهند داشت، اما اکنون با عامل‌ها، ابزارها و اتوماسیون‌های مختلف برای پشتیبانی از آنها.
یک نقطه شروع مهم در طراحی مجدد گردش‌های کاری، نقشه‌برداری از فرآیندها و شناسایی نقاط درد کلیدی کاربر است. این مرحله در طراحی سیستم‌های عامل‌دار که کار غیرضروری را کاهش می‌دهند و به عامل‌ها و افراد اجازه می‌دهند تا با هم همکاری کنند و اهداف تجاری را به طور کارآمدتر و مؤثرتری محقق کنند، بسیار مهم است. این همکاری می‌تواند از طریق حلقه‌های یادگیری و مکانیسم‌های بازخورد اتفاق بیفتد و یک سیستم خودتقویت‌کننده ایجاد کند. هرچه عامل‌ها بیشتر استفاده شوند، باهوش‌تر و هماهنگ‌تر می‌شوند.
یک ارائه‌دهنده خدمات حقوقی جایگزین را در نظر بگیرید که در حال مدرن‌سازی گردش‌های کاری بررسی قرارداد خود بود. استدلال حقوقی در حوزه شرکت دائماً در حال تکامل بود، با رویه‌های قضایی جدید، تفاوت‌های ظریف قضایی و تفاسیر سیاستی، که کدگذاری تخصص را چالش‌برانگیز می‌کرد.
برای در نظر گرفتن واریانس طبیعی، تیم سیستم‌های عامل خود را طوری طراحی کرد که در چارچوب گردش کار یاد بگیرند. به عنوان مثال، هر ویرایش کاربر در ویرایشگر سند، ثبت و طبقه‌بندی می‌شد. این امر جریان غنی از بازخورد را در اختیار مهندسان و دانشمندان داده قرار می‌داد که می‌توانستند از آن برای آموزش به نمایندگان، تنظیم منطق سریع و غنی‌سازی پایگاه دانش استفاده کنند. با گذشت زمان، نمایندگان می‌توانستند تخصص‌های جدید را کدگذاری کنند.
تمرکز بر گردش کار به جای نماینده، تیم‌ها را قادر ساخت تا فناوری مناسب را در نقطه مناسب مستقر کنند، که این امر به ویژه هنگام مهندسی مجدد گردش‌های کاری پیچیده و چند مرحله‌ای اهمیت دارد (شکل). به عنوان مثال، شرکت‌های بیمه اغلب گردش‌های کاری تحقیقاتی بزرگی دارند که چندین مرحله (مانند رسیدگی به ادعاها و صدور بیمه‌نامه) را در بر می‌گیرد و هر مرحله نیاز به انواع مختلفی از فعالیت‌ها و وظایف شناختی دارد. شرکت‌ها می‌توانند با به‌کارگیری هوشمندانه ترکیبی هدفمند از سیستم‌های مبتنی بر قانون، هوش مصنوعی تحلیلی، هوش مصنوعی نسل جدید و عامل‌ها، که همگی تحت یک چارچوب هماهنگ‌سازی مشترک مانند چارچوب‌های متن‌باز مانند AutoGen، CrewAI و LangGraph پشتیبانی می‌شوند، این نوع گردش‌های کاری را دوباره طراحی کنند. در این موارد، عامل‌ها هماهنگ‌کننده‌ها و یکپارچه‌کننده‌ها هستند که به ابزارها دسترسی پیدا می‌کنند و خروجی‌های سایر سیستم‌ها را در زمینه خود ادغام می‌کنند. آنها چسبی هستند که گردش کار را یکپارچه می‌کنند، بنابراین با کمترین نیاز به مداخله، به بسته شدن واقعی منجر می‌شود.
عامل‌ها همیشه جوابگو نیستند.
عامل‌های هوش مصنوعی می‌توانند کارهای زیادی انجام دهند، اما لزوماً نباید برای همه چیز استفاده شوند. اغلب اوقات، رهبران به اندازه کافی به کاری که باید انجام شود، نگاه نمی‌کنند یا نمی‌پرسند که آیا یک نماینده بهترین انتخاب برای انجام آن کار است یا خیر.
برای جلوگیری از هدر رفتن سرمایه‌گذاری‌ها یا هزینه‌های ناخواسته
با توجه به پیچیدگی‌های موجود، رهبران کسب‌وکار می‌توانند به نقش کارگزاران بسیار شبیه به ارزیابی افراد برای یک تیم با عملکرد بالا نگاه کنند. سوال کلیدی که باید پرسید این است: «چه کاری باید انجام شود و استعدادهای نسبی هر عضو بالقوه تیم – یا کارگزار – برای همکاری جهت دستیابی به آن اهداف چیست؟» مشکلات کسب‌وکار اغلب می‌توانند با رویکردهای اتوماسیون ساده‌تر، مانند اتوماسیون مبتنی بر قوانین، تجزیه و تحلیل پیش‌بینی‌کننده یا مدل زبان بزرگ (LLM) که می‌توانند قابل اعتمادتر از کارگزاران آماده باشند، مورد بررسی قرار گیرند.
قبل از عجله در استفاده از یک راه‌حل کارگزارانه، رهبران کسب‌وکار باید خواسته‌های وظیفه را بررسی کنند. در عمل، این به معنای روشن شدن این است که فرآیند چقدر باید استاندارد باشد، فرآیند باید چه مقدار واریانس را مدیریت کند و کارگزاران برای انجام چه بخش‌هایی از کار مناسب‌تر هستند.
از یک طرف، این مسائل سرراست هستند. به عنوان مثال، گردش‌های کاری با واریانس کم و استانداردسازی بالا، مانند جذب سرمایه‌گذار یا افشای اطلاعات نظارتی، تمایل دارند به شدت کنترل شوند و از منطق قابل پیش‌بینی پیروی کنند. در این موارد، عامل‌های مبتنی بر LLM های غیرقطعی می‌توانند پیچیدگی و عدم قطعیت بیشتری نسبت به ارزش ایجاد کنند.
در مقابل، گردش‌های کاری با واریانس بالا و استانداردسازی پایین می‌توانند به طور قابل توجهی از عامل‌ها بهره‌مند شوند. به عنوان مثال، عامل‌ها در یک شرکت خدمات مالی برای استخراج اطلاعات مالی پیچیده، کاهش میزان اعتبارسنجی انسانی مورد نیاز و ساده‌سازی گردش‌های کاری مستقر شدند. این وظایف مستلزم جمع‌آوری اطلاعات، بررسی‌های تأیید و تجزیه و تحلیل انطباق بودند – وظایفی که در آنها عامل‌ها می‌توانند مؤثر باشند.
نکته مهمی که باید به خاطر داشته باشید این است که در یک ذهنیت دوگانه “عامل/بدون عامل” گرفتار نشوید. برخی از عامل‌ها می‌توانند وظایف خاصی را به خوبی انجام دهند، برخی دیگر می‌توانند به افراد کمک کنند تا کار خود را بهتر انجام دهند و در بسیاری از موارد، فناوری‌های مختلف ممکن است مناسب‌تر باشند. نکته کلیدی این است که بفهمید کدام ابزار یا عامل برای این کار مناسب‌تر است، چگونه افراد می‌توانند به طور مؤثر با آنها کار کنند و چگونه عامل‌ها و کارگران باید برای ارائه بهترین خروجی ترکیب شوند. اینکه افراد، کارگزاران و ابزارها چقدر خوب با هم کار می‌کنند، راز پنهان ارزش است (به نوار کناری «قوانین کلی سطح بالا هنگام بررسی ابزارهای هوش مصنوعی» مراجعه کنید).
جلوی «شیب هوش مصنوعی» را بگیرید: روی ارزیابی‌ها سرمایه‌گذاری کنید و با کاربران اعتماد ایجاد کنید
یکی از رایج‌ترین مشکلاتی که تیم‌ها هنگام استقرار کارگزاران هوش مصنوعی با آن مواجه می‌شوند، سیستم‌های کارگزاری است که در نسخه‌های نمایشی چشمگیر به نظر می‌رسند اما کاربرانی را که در واقع مسئول کار هستند، ناامید می‌کنند. شنیدن شکایت کاربران از «شیب هوش مصنوعی» یا خروجی‌های بی‌کیفیت رایج است. کاربران به سرعت اعتماد خود را به کارگزاران از دست می‌دهند و سطح پذیرش ضعیف است. هرگونه افزایش کارایی حاصل از اتوماسیون می‌تواند به راحتی با از دست دادن اعتماد یا کاهش کیفیت جبران شود.
درسی که به سختی از این مشکل تکراری گرفته شده این است که شرکت‌ها باید سرمایه‌گذاری زیادی در توسعه کارگزاران انجام دهند، درست مانند کاری که برای توسعه کارکنان انجام می‌دهند. همانطور که یکی از رهبران کسب‌وکار به ما گفت، «آماده‌سازی کارگزاران بیشتر شبیه استخدام یک کارمند جدید در مقابل استقرار نرم‌افزار است.» باید به کارگزاران شرح وظایف واضحی داده شود، آنها را آماده کرد و بازخورد مداوم به آنها داد تا مؤثرتر شوند و مرتباً بهبود یابند.
توسعه‌ی کارگزاران مؤثر، کاری چالش‌برانگیز است که نیازمند بهره‌برداری از تخصص فردی برای ایجاد ارزیابی‌ها (یا «ارزیابی‌ها») و تدوین بهترین شیوه‌ها با جزئیات کافی برای وظایف معین است. این تدوین، هم به عنوان کتابچه‌ی راهنمای آموزشی و هم به عنوان آزمون عملکرد برای کارگزار عمل می‌کند و تضمین می‌کند که مطابق انتظار عمل می‌کند.
این شیوه‌ها ممکن است در رویه‌های عملیاتی استاندارد یا به عنوان دانش ضمنی در ذهن افراد وجود داشته باشند. هنگام تدوین شیوه‌ها، تمرکز بر آنچه که افراد با عملکرد برتر را از بقیه متمایز می‌کند، مهم است. برای نمایندگان فروش، این می‌تواند شامل نحوه‌ی هدایت مکالمه، رسیدگی به اعتراضات و مطابقت با سبک مشتری باشد .
نکته مهم این است که متخصصان باید در طول زمان درگیر آزمایش عملکرد کارگزاران باشند؛ در این عرصه نمی‌توان «شروع و ترک» کرد. این تعهد به ارزیابی، به عنوان مثال، مستلزم آن است که متخصصان به معنای واقعی کلمه خروجی‌های مطلوب (و شاید نامطلوب) را برای ورودی‌های معین بنویسند یا برچسب‌گذاری کنند، که گاهی اوقات برای کارگزاران پیچیده‌تر می‌تواند به هزاران عدد برسد. به این ترتیب، تیم‌ها می‌توانند ارزیابی کنند که یک نماینده چقدر درست یا اشتباه عمل کرده و اصلاحات لازم را انجام دهند.
یک بانک جهانی هنگام تغییر فرآیندهای شناخت مشتری و تحلیل ریسک اعتباری خود، این رویکرد را با جدیت دنبال کرد. هر زمان که توصیه نماینده در مورد رعایت دستورالعمل‌های پذیرش با قضاوت انسانی متفاوت بود، تیم شکاف‌های منطقی را شناسایی، معیارهای تصمیم‌گیری را اصلاح و آزمایش‌ها را دوباره انجام داد.
به عنوان مثال، در یک مورد، تحلیل اولیه نمایندگان بیش از حد کلی بود. تیم آن بازخورد را ارائه داد، سپس نمایندگان دیگری را توسعه و مستقر کرد تا اطمینان حاصل شود که عمق تحلیل، بینش‌های مفیدی را در سطح مناسبی از جزئیات ارائه می‌دهد. یکی از راه‌های انجام این کار، پرسیدن «چرا» از نمایندگان به صورت متوالی بود. این رویکرد تضمین می‌کرد که نمایندگان عملکرد خوبی دارند.
پیگیری و تأیید هر مرحله را آسان کنید
هنگامی که تنها با چند عامل هوش مصنوعی کار می‌کنید، بررسی کار آنها و تشخیص خطاها می‌تواند عمدتاً ساده باشد. اما با راه‌اندازی صدها یا حتی هزاران عامل توسط شرکت‌ها، این کار چالش‌برانگیز می‌شود. مشکل این است که بسیاری از شرکت‌ها فقط نتایج را ردیابی می‌کنند. بنابراین وقتی اشتباهی رخ می‌دهد – و همیشه با افزایش تعداد عامل‌ها توسط شرکت‌ها، اشتباهاتی وجود خواهد داشت – تشخیص دقیق اینکه چه چیزی اشتباه رخ داده است، دشوار است.
عملکرد عامل باید در هر مرحله از گردش کار تأیید شود. ایجاد نظارت و ارزیابی در گردش کار می‌تواند تیم‌ها را قادر سازد تا اشتباهات را زود تشخیص دهند، منطق را اصلاح کنند و عملکرد را به طور مداوم بهبود بخشند، حتی پس از استقرار عامل‌ها.
به عنوان مثال، در یک گردش کار بررسی اسناد، تیم محصول یک ارائه‌دهنده خدمات حقوقی جایگزین، هنگامی که سیستم با مجموعه جدیدی از موارد مواجه شد، افت ناگهانی در دقت را مشاهده کرد. اما از آنجایی که آنها گردش کار عامل را با ابزارهای مشاهده‌پذیری برای ردیابی هر مرحله از فرآیند ساخته بودند، تیم به سرعت مشکل را شناسایی کرد: برخی از بخش‌های کاربر داده‌های با کیفیت پایین‌تری ارسال می‌کردند که منجر به تفسیرهای نادرست و توصیه‌های ضعیف در پایین‌دست می‌شد.
با این بینش، تیم شیوه‌های جمع‌آوری داده‌های خود را بهبود بخشید، دستورالعمل‌های قالب‌بندی اسناد را برای ذینفعان بالادستی ارائه داد و منطق تجزیه سیستم را تنظیم کرد. عملکرد عامل به سرعت بهبود یافت.
بهترین مورد استفاده، مورد استفاده مجدد است.
در عجله برای پیشرفت با هوش مصنوعی عامل، شرکت‌ها اغلب برای هر وظیفه شناسایی شده یک عامل منحصر به فرد ایجاد می‌کنند. این می‌تواند منجر به افزونگی و اتلاف قابل توجهی شود زیرا همان عامل اغلب می‌تواند وظایف مختلفی را انجام دهد که بسیاری از اقدامات مشابه (مانند مصرف، استخراج، جستجو و تجزیه و تحلیل) را به اشتراک می‌گذارند.
تصمیم‌گیری در مورد میزان سرمایه‌گذاری در ساخت عامل‌های قابل استفاده مجدد (در مقابل عاملی که یک وظیفه خاص را اجرا می‌کند) مشابه مشکل معماری فناوری اطلاعات کلاسیک است که در آن شرکت‌ها باید سریع بسازند اما در انتخاب‌هایی که قابلیت‌های آینده را محدود می‌کنند، قفل نکنند. چگونگی ایجاد این تعادل اغلب نیاز به قضاوت و تحلیل زیادی دارد.
شناسایی وظایف تکرارشونده نقطه شروع خوبی است. شرکت‌ها می‌توانند عامل‌ها و اجزای عامل را توسعه دهند که به راحتی در گردش‌های کاری مختلف قابل استفاده مجدد باشند و دسترسی به آنها را برای توسعه‌دهندگان ساده کنند. این شامل توسعه مجموعه‌ای متمرکز از خدمات معتبرمانند مشاهده‌پذیری LLM یا دستورالعمل‌های از پیش تأیید شده و دارایی‌ها (به عنوان مثال، الگوهای برنامه، کد قابل استفاده مجدد و مواد آموزشی) است که به راحتی قابل یافتن و استفاده هستند. ادغام این قابلیت‌ها در یک پلتفرم واحد بسیار مهم است. طبق تجربه ما، این امر به حذف تقریباً 30 تا 50 درصد از کارهای غیرضروری که معمولاً مورد نیاز هستند، کمک می‌کند.
انسان‌ها همچنان ضروری هستند، اما نقش‌ها و تعداد آنها تغییر خواهد کرد.
با افزایش روزافزون عامل‌های هوش مصنوعی، این سوال که انسان‌ها چه نقشی ایفا خواهند کرد، اضطراب زیادی ایجاد کرده است – از یک سو در مورد امنیت شغلی و از سوی دیگر در مورد انتظارات بالا برای افزایش بهره‌وری. این امر منجر به دیدگاه‌های بسیار متفاوتی در مورد نقش انسان در بسیاری از مشاغل امروزی شده است.
برای روشن شدن موضوع: کارگزاران قادر به انجام کارهای زیادی خواهند بود، اما انسان‌ها همچنان بخش اساسی معادله نیروی کار باقی خواهند ماند، حتی با وجود اینکه نوع کاری که هم کارگزاران و هم انسان‌ها انجام می‌دهند با گذشت زمان تغییر می‌کند. به عنوان مثال، افراد باید بر دقت مدل نظارت کنند، از انطباق اطمینان حاصل کنند، از قضاوت استفاده کنند و موارد خاص را مدیریت کنند. و همانطور که قبلاً بحث کردیم، کارگزاران همیشه بهترین پاسخ نخواهند بود، بنابراین به افرادی که با ابزارهای دیگری مانند مدل‌های یادگیری ماشین کار می‌کنند، نیاز خواهد بود. با این حال، تعداد افرادی که در یک گردش کار خاص کار می‌کنند، احتمالاً تغییر خواهد کرد و اغلب پس از تغییر گردش کار با استفاده از کارگزاران، کمتر خواهد شد. رهبران کسب‌وکار به طور حیاتی باید این انتقال‌ها را مانند هر برنامه تغییر دیگری مدیریت کنند و کار لازم را برای آموزش و ارزیابی کارگزاران به طور متفکرانه اختصاص دهند.
درس بزرگ دیگر از تجربه ما این است که شرکت‌ها باید در طراحی مجدد کار آگاهانه عمل کنند تا افراد و کارگزاران بتوانند به خوبی با هم همکاری کنند. بدون این تمرکز، حتی پیشرفته‌ترین برنامه‌های کارگزاری نیز در معرض خطر شکست‌های خاموش، خطاهای پیچیده و رد کاربر قرار می‌گیرند.
به عنوان مثال، ارائه دهنده خدمات حقوقی جایگزین که قبلاً ذکر شد می‌خواست از کارگزاران برای گردش کار تحلیل حقوقی استفاده کند. در طراحی گردش کار، تیم وقت گذاشت تا مشخص کند کجا، چه زمانی و چگونه می‌توان ورودی‌های انسانی را ادغام کرد. در یک مورد، نمایندگان توانستند ادعاهای اصلی و مبالغ دلاری را با سطح بالایی از دقت سازماندهی کنند، اما با توجه به اینکه ادعاها چقدر در کل پرونده مهم بودند، بررسی مجدد و تأیید آنها برای وکلا مهم بود.
به طور مشابه، نمایندگان توانستند رویکردهای برنامه کاری را برای یک پرونده توصیه کنند، اما با توجه به اهمیت تصمیم، بسیار مهم بود که افراد نه تنها توصیه را بررسی کنند، بلکه آن را تنظیم نیز کنند. نمایندگان همچنین طوری برنامه‌ریزی شده بودند که موارد حاشیه‌ای و ناهنجاری‌ها را برجسته کنند و به وکلا کمک کنند تا دیدگاه‌های جامع‌تری ایجاد کنند. هنوز کسی …
امضای سند در پایان فرآیند، و تضمین تصمیم قانونی با مجوز و اعتبارنامه‌های فرد.
بخش مهمی از این طراحی مشارکتی انسان-عامل، توسعه رابط‌های کاربری بصری ساده است که تعامل افراد با عوامل را آسان می‌کند. به عنوان مثال، یک شرکت بیمه اموال و تلفات، عناصر بصری تعاملی (مانند کادرهای محدودکننده، هایلایت‌ها و پیمایش خودکار) را برای کمک به بررسی‌کنندگان در اعتبارسنجی سریع خلاصه‌های تولید شده توسط هوش مصنوعی توسعه داد. به عنوان مثال، هنگامی که افراد روی یک بینش کلیک می‌کردند، برنامه مستقیماً به صفحه صحیح پیمایش می‌کرد و متن مناسب را هایلایت می‌کرد. این تمرکز بر تجربه کاربری باعث صرفه‌جویی در زمان، کاهش حدس و گمان دوم و ایجاد اعتماد به سیستم شد و منجر به سطح پذیرش نزدیک به ۹۵ درصد توسط کاربر شد.
دنیای عامل‌های هوش مصنوعی به سرعت در حال حرکت است، بنابراین می‌توانیم انتظار داشته باشیم که درس‌های بسیار بیشتری بیاموزیم. اما مگر اینکه شرکت‌ها با در نظر گرفتن یادگیری (و در عمل) به برنامه‌های عامل خود نزدیک شوند، احتمالاً اشتباهات را تکرار می‌کنند و پیشرفت خود را کند می‌کنند.
درباره نویسنده(گان)
لارینا یی، مدیر موسسه جهانی مک‌کینزی و شریک ارشد دفتر منطقه خلیج مک‌کینزی است، جایی که مایکل چوی عضو ارشد و راجر رابرتز شریک هستند؛ استفن شو، مدیر ارشد مدیریت محصول در دفتر تورنتو است.
نویسندگان مایلند از الکس سینگلا، الکساندر سوخارفسکی، آلبرتو ماریو پیرووانو، آلن چن، آنی آقابابیان، آنتونیو کاسترو، کارلو جیووین، مدها بانکوال، ریکارد استروم و کل تیم محصول در QuantumBlack Labs، مرکز مک‌کینزی که به پیشبرد نوآوری و آزمایش در هوش مصنوعی اختصاص دارد، به خاطر مشارکتشان در این مقاله تشکر کنند.این مقاله توسط بار سیتز، مدیر تحریریه در دفتر نیویورک، ویرایش شده است.
