17 اکتبر 2024 -توسط دانشگاه ویرجینیا-اعتبار: دامنه عمومی Pixabay/CC0
متیو ال. بولتون، دانشیار مهندسی سیستم و اطلاعات در دانشگاه ویرجینیا، در مقاله خود، “اعتماد یک فضیلت نیست: چرا نباید اعتماد کنیم”، به شدت تاکید بر تقویت اعتماد در تعاملات انسان و ماشین را به چالش می کشد. او به ویژه بر روی سیستم هایی که از هوش مصنوعی، یادگیری ماشینی و اتوماسیون استفاده می کنند، تمرکز دارد.
این مقاله در مجله Ergonomics in Design: The Quarterly of Human Factors Applications منتشر شده است.
بولتون استدلال می‌کند که در حالی که اعتماد اغلب برای پذیرش فناوری‌های جدید ضروری است، اما مفهومی مشکل‌ساز و مبهم است. تعریف اعتماد دشوار است، بسیار زمینه‌ای است و با مفاهیم مرتبطی مانند اطمینان و ریسک درک شده ترکیب می‌شود، و آن را نه انتخابی و نه تشخیصی به‌عنوان معیار رفتار انسانی می‌سازد.
بولتون معتقد است که تمرکز بر اعتمادسازی در فناوری ممکن است در واقع مهندسی فاکتورهای انسانی را تضعیف کند. مهندسان به جای دنبال کردن اعتماد به عنوان یک هدف، باید بر معیارهای عینی قابلیت اطمینان، شفافیت و قابلیت استفاده سیستم تمرکز کنند – عناصری که مستقیماً بر تجربه و عملکرد انسان تأثیر می گذارد.
بولتون ادعا می‌کند که اعتماد ذاتاً انسان‌گرا نیست و می‌توان آن را برای سلب حق رای کاربران دستکاری کرد و به جای تقویت آن، استقلال را کاهش داد. این دستکاری اغلب در خدمت منافع سازمان های بزرگی است که به دنبال دور زدن نیاز به قابلیت اطمینان با تشویق اعتماد کور به فناوری های خود هستند.
بولتون می گوید: «در مرکز تحقیقات اعتماد، تناقضی وجود دارد. ما انسان‌ها را در سیستم‌ها گنجانده‌ایم، زیرا آنها تجربه، تخصص، غرایز و خلاقیتی را به همراه دارند که عملکرد را بهبود می‌بخشد و سیستم‌ها را انعطاف‌پذیر می‌کند… ما برای تصمیم‌گیری زمان، چرا و نحوه اعتماد به یک سیستم به آنها تکیه می‌کنیم. اگر مهندسان افراد را دستکاری می‌کنند تا رفتاری مشابه داشته باشند. آنها (یا دیگران) می‌خواهند، ما مزایای داشتن اپراتورهای انسانی را از دست می‌دهیم.”
در نهایت، بولتون خواستار دور شدن از تحقیقات اعتماد محور به نفع رویکردهای ملموس و اخلاقی برای طراحی سیستم است.
او تأکید می کند که مهندسان باید به جای تکیه بر اعتماد به عنوان توجیهی برای پذیرش، توسعه فناوری هایی را که به کاربران با طراحی های شفاف، قابل اعتماد و انسان محور قدرت می بخشد، اولویت دهند. او استدلال می کند که این رویکرد به تعاملات انسان و ماشین ایمن تر، اخلاقی تر و مؤثرتر منجر می شود.
