حتما می‌دانید که روز‌به‌روز نقش هوش مصنوعی در زندگی و کار ما پررنگ‌تر می‌شود. هم‌زمان با بالارفتن میزان تاثیر هوش مصنوعی، تحقیقاتی در مورد نحوه پذیرش آن توسط کارمندان صورت‌گرفته است که در این نوشته از وبلاگ تخصصی اکوبا می‌خواهیم به بررسی پذیرش هوش مصنوعی توسط کارمندان که توسط گروهی از اساتید و محققان دانشگاه‌های جرج تاون، هاروارد و MIT انجام شد، بپردازیم. Timothy DeStefano از دانشگاه جورج تاون و همکارانش، Michael Menietti وLuca Vendraminelli  از دانشگاه هاروارد و Katherine Kellogg  از دانشگاه MIT  در بررسی شرکت  Tapestry، تصمیمات مربوط به تخصیص ۴۲۵ محصول یک فروشگاه زنجیره‌ای خرده‌فروشی مد و فشن لوکس در ایالات متحده را در ۱۸۶ فروشگاه تجزیه‌و‌تحلیل کردند. با ما همراه باشید تا نتایج این تحقیق را با هم بررسی کنیم.

بررسی میزان پذیرش هوش مصنوعی توسط کارمندان شرکت Tapestry

طی تحقیقات انجام‌گرفته در زمینه پذیرش هوش مصنوعی توسط کارمندان شرکت Tapestry، محققان به نتایجی رسیدند که در ادامه به آنها می‌پردازیم. در روند تحقیق نیمی از تصمیم‌ها توسط کارمندان پس از دریافت توصیه‌هایی از یک الگوریتم هوش مصنوعی که به‌راحتی قابل فهم بود و نیمی دیگر پس از دریافت توصیه‌هایی از الگوریتمی که برای کارمندان قابل رمزگشایی نبود، گرفته شد. مقایسه این تصمیم‌ها نشان داد که پذیرش هوش مصنوعی توسط کارمندان در الگوریتم غیرقابل تفسیر بالاتر بود.

محققان پس از روبرو شدن با این نتایج شروع به بررسی دلایل این بی­‌میلی و نحوه مقابله با آن کردند. این شرکت نزدیک به ۱۵۰۰ فروشگاه و فروش سالانه ۶.۷ میلیارد دلاری دارد و بهینه‌­سازی تخصیص محصول و اجرای یک زنجیره‌­ تأمین کارآمد در موفقیت آن بسیار مهم است. در‌حال‌حاضر کارکنان با پیش‌بینی‌های کوتاه‌مدت خود، تخصیص موجودی هفتگی را برای هر فروشگاه تعیین می‌کنند و سعی بر این است که این تخمین تا حد امکان دقیق باشد. Tapestry در طول سال‌های گذشته از الگوریتمی مبتنی بر یک فرمول برای کمک به کارمندان جهت پیش­بینی میزان تقاضا استفاده می‌کرد؛ آنها این مدل را در طول زمان و بر پایه‌­ تجارب روزمره حود طراحی کردند. این شرکت به دنبال افزایش دقت، مدل پیش‌بینی پیچیده‌تری را توسعه داد که در بین کارمندان به مدل «جعبه سیاه» معروف شد.

محققان به‌طور تصادفی یکی از این دو سیستم یعنی الگوریتم قدیمی و همچنین الگوریتم مبتنی بر هوش مصنوعی یا همان جعبه سیاه را برای ارائه­‌ راهنمایی جهت تصمیم­‌گیری مناسب کارمندان در مورد هر محصول در طول سه هفته مطالعه خود مورد استفاده قرار دادند. پس از مشاهده توصیه‌ها، کارمندان می‌توانستند مقادیر پیشنهادی را مطابق راهنمایی هوش مصنوعی اجرا کنند یا اینکه بدون توجه به توصیه هوش مصنوعی، تعداد متفاوتی از محصولات را بر اساس نظر خودشان ارسال کنند.

پس از بررسی نتایج مشخص شد که محموله‌های ارسالی تا ۵۰ درصد به توصیه‌های سیستم جعبه سیاه نسبت به توصیه‌های الگوریتم ساده‌تر و مبتنی بر قانون شرکت نزدیک‌تر بودند. این موضوع نشان می‌دهد پذیرش هوش مصنوعی توسط کارمندان در مدل جعبه سیاه بسیار بیشتر بوده‌است. این تغییر دیدگاه و پذیرش هوش مصنوعی توسط کارمندان از نظر محققان بسیار شگفت‌­انگیز بود؛ اما به نظر شما چرا این اتفاق افتاد؟

در واقع، یافته‌های محققان در تضاد با تفکر رایجی بود که عقیده داشت کارمندان احتمالا راهنمایی‌ سیستم‌های هوش مصنوعی را می‌پذیرند که برای آنها قابل درک‌تر و ساده است. یکی از دلایلی که کارکنان سیستم هوش مصنوعی ساده‌تر را نادیده می‌گیرند، مربوط به چیزی است که محققان آن را «عیب‌یابی بیش از حد مطمئن» می‌نامند. این موضوع زمانی اتفاق می‌افتد که کارمندان معتقد باشند که استدلال پشت هوش مصنوعی را بهتر از آنچه واقعا هست، درک می‌کنند. آنها از تجربیات خود برای تکمیل آنچه که به عنوان کمبود در مدل می‌بینند، استفاده می‌کنند.

کارمندانی که در این تحقیق شرکت کرده‌بودند، اغلب در مورد عملکرد درونی الگوریتم هوش مصنوعی قابل تفسیر و اینکه چرا باید راهنمایی‌­های آن را نادیده می­گرفتند، داستان‌هایی را بیان کردند. به عنوان مثال، در مصاحبه‌ای که پس از آزمایش انجام شد، یکی از کارمندان به محققان در مورد کاهش مقادیر محصول پیشنهادی مدل هوش مصنوعی گفت و ادعا کرد که الگوریتم در این خصوص اشتباه کرده‌است؛ بنابراین طبیعی است که پذیرش هوش مصنوعی توسط کارمندان با وجود این دیدگاه سخت­تر شود.

پیشنهاد مطالعه: رمز موفقیت در دنیای کسب و کار امروز

چرا پذیرش هوش مصنوعی توسط کارمندان در مدل­‌های پیچیده‌­تر بیشتر است؟

حتی با وجود اینکه کارمندان نمی‌توانستند بگویند چه مقداری از داده در مدل هوش مصنوعی غیرقابل تفسیر استفاده شده است یا مدل با آن چه کرده است، اما می‌دانستند که این الگوریتم با نظرات برخی از همکارانشان ساخته و آزمایش شده‌است و این موضوع به آنها اطمینان خاطر می‌داد و طبعا پذیرش آن راحت‌تر بود. این موضوع نمونه‌ای از چیزی است که به‌عنوان «اثبات اجتماعی» شناخته می‌شود. یکی از کارمندان به محققان گفت که ما به این مدل هوش مصنوعی در سطح کلان­‌تری اعتماد کردیم، زیرا همکاران ما در توسعه آن نقش داشته‌­اند.

آیا وقتی کارمندان در استفاده از هوش مصنوعی بر تجربه‌­ خود تکیه کردند، نتایج بهتری گرفتند؟

درست برعکس، چون مدل پیچیده‌تر خیلی خوب بود! محققان بیش از ۱۷۰۰۰ تصمیم در مورد تخصیص کالاها را مورد مطالعه قرار دادند و نحوه‌­ عملکرد هر تصمیم را بعد از دو هفته بررسی کردند. تصمیمات مرتبط با مدل هوش مصنوعی جعبه سیاه موفقیت‌آمیزتر از تصمیمات مرتبط با مدل ساده‌تر و شفاف‌تر بودند، دقیقا به این دلیل که کارمندان تمایل زیادی به پذیرش توصیه­‌های آن داشتند. آنها با استفاده از این مدل هوش مصنوعی فروش بالاتر و مرجوعی انبار کمتری را مشاهده کردند و همچنین ۲۰ درصد نیز افزایش درآمد در این مدت گزارش شد. با توجه به نتایج این تحقیق و دیگر تحقیقات صورت‌گرفته شما مدیران نوآور می‌توانید از مشاوره کسب و کار حرفه‌ای برای نحوه استفاده از هوش مصنوعی در شرکت یا سازمان خود و همچنین بالا بردن میزان پذیرش مدل‌های هوش مصنوعی توسط کارمندانتان استفاده کنید.

آیا مورد دیگری بر پذیرش هوش مصنوعی توسط کارمندان تأثیر داشت؟

میزان عدم اطمینانی که هر کارمند هنگام اتخاذ یک تصمیم‌ خاص احساس می‌کرد، بسیار مهم و با حجم فروش مورد‌نظر نیز  متفاوت بود. تصمیمات در مورد تخصیص محصولات برای فروشگاه‌های با ظرفیت بالا بیشترین عدم قطعیت را در بر داشت زیرا با پیامدهای تخصیص نادرست همانند مقادیر فروش از دست‌رفته یا موجودی اضافی انبار همراه بود. پذیرش هوش مصنوعی توسط کارمندان هنگام تخصیص محصولات به آن فروشگاه‌ها، در مدل غیرقابل تفسیر بسیار بیشتر از مدل شفاف بود. در مدل قابل تفسیر، سطح بالای عدم قطعیت افراد را وادار کرد تا پیشنهادات مدل را بررسی و آنها را رد کنند.

پیشنهاد مطالعه: استراتژی توسعه محصول

چگونه می‌توان کارمندان را ترغیب به استفاده از هوش مصنوعی کرد؟

شما باید به‌طورمداوم میزان اعتماد کارمندان به سیستم­ خود را اندازه­ گیری کنید. اگر متوجه شدید که آنها در برخی زمینه‌ها بیشتر از سایر موارد به آن اعتماد دارند، باید دلیل آن را مورد بررسی قرار دهید. کارمندان ممکن است نسبت به هوش مصنوعی بدبین باشند زیرا از نظر آنها (که نظری درست است) هوش مصنوعی باگ (ایراد و اشتباه) دارد یا توصیه‌هایی ارائه می‌دهد که بسیار متفاوت از تجربه یا شهود آنها است.

شما باید تعیین کنید که آیا بی‌اعتمادی کارمندان شما منطقی است یا خیر؟ هنگامی که متوجه شدید چه چیزی پشت پرده افکار آنها قرار گرفته، وقت آن است که آموزش هدفمندی را برای بهبود پذیرش آنها نسبت به قدرت تصمیم‌­گیری ابزار هوش مصنوعی توسعه دهید. توجه داشته باشید که این موضوع پدیده‌­ جدیدی نیست؛ بلکه هر زمان که فناوری‌های نوین به‌کار گرفته می‌شوند، افراد در ابتدا تمایلی به پذیرش آن ندارند. پس در خصوص پذیرش هوش مصنوعی توسط کارمندان نیز نباید این نکته را از یاد ببرید، بلکه باید با تکنیک‌های مدیریتی ذکر‌شده این چالش را مدیریت کنید.

پیشنهاد مطالعه: برنامه ریزی و مدیریت پروژه در محیط کسب و کار

تاثیر میزان پذیرش هوش مصنوعی توسط کارمندان بر عملکرد آنها

در نوشته بالا به بررسی پذیرش هوش مصنوعی توسط کارمندان پرداختیم. با توجه به نتایج تحقیقات فراموش نکنید که قبل از اینکه ابزار جدیدی را به محیط کار وارد کنید، از تیم داده یا هر کسی که آن را می‌سازد بخواهید با کارمندانی که از آن استفاده می‌کنند، ملاقات کرده و برخی از آنها را در فرآیند توسعه وارد کنند. این نوع شفافیت و مشارکت، پذیرش هوش مصنوعی توسط کارمندان را افزایش داده و موجب ایجاد اعتماد در بین آنها می­شود. اما با این وجود، وقتی تمام این اتفاقات رخ داد و سیستم آزمایش شد و همه با آن موافق بودند و  مناسب و مفید بودن این الگوریتم هوش مصنوعی را پذیرفتند، بهتر است توانایی کارمندان را برای نادیده گرفتن الگوریتم محدود کنید. این‌گونه قادر خواهید بود که از یک سو پذیرش هوش مصنوعی توسط کارمندان خود را بالا ببرید و از سویی دیگر فعالیت‌­های کسب‌و‌کارتان را بهینه کنید. امیدواریم از این مطلب کاربردی بهره برده باشید. منتظر شنیدن نظرات و سوالات شما در بخش دیدگاه‌ها هستیم.

منبع:
https://hbr.org/2023/09/people-may-be-more-trusting-of-ai-when-they-cant-see-how-it-works