بررسی واقعیت بر الگوریتم‌های توصیه‌گر تأثیر می‌گذارد

2 آگوست 2023 -توسط دانشگاه کرنل

هر دو مداخله امتیاز رای گروه های درمانی را نسبت به گروه کنترل کاهش داد. این نمودار اندازه اثر و فواصل اطمینان 95% را برای 50 رگرسیون خطی نشان می‌دهد که تأثیر را بر امتیاز رای در یک لحظه در زمان در 200 دقیقه اول پس از ارسال مقاله تخمین می‌زند. اعتبار: گزارش های علمی (2023). DOI:

در ژانویه 2017، کاربران Reddit در مورد یک مورد ادعایی تروریسم در یک سوپرمارکت اسپانیایی مطالعه کردند. چیزی که آن‌ها نمی‌دانستند این بود که تقریباً تمام جزئیات داستان‌ها، که از چندین نشریه تبلوید گرفته شده بود و با الگوریتم‌های Reddit تقویت شده بود، نادرست بود. اکنون، تحقیقات دانشگاه کرنل نشان داده است که ترغیب افراد به مشارکت فعال در اخباری که مصرف می‌کنند، می‌تواند گسترش این نوع دروغ‌ها را کاهش دهد.

جی ناتان ماتیاس، استادیار ارتباطات، آزمایشی را با یک جامعه 14 میلیونی در Reddit انجام داد و دریافت که تشویق مردم به شرکت در جمع‌آوری دانش، در واقع می‌تواند درک الگوریتم را به حرکت درآورد ودریافت که پیشنهاد می کند که اگر اعضای جامعه داستان های مشکوک را بررسی کنند، منجر به حذف آن داستان ها در رتبه بندی Reddit شد.

Matias، نویسنده این مطالعه که در Scientific Reports منتشر شده است، می‌گوید: «یکی از درس‌ها این است که ما مجبور نیستیم خود را اسیر پلتفرم‌ها و الگوریتم‌های فناوری بدانیم.

محققان با همکاری با رهبران جامعه داوطلب گروه خبری جهان در Reddit و تمرکز بر وب‌سایت‌های خبری که به انتشار ادعاهای نادرست شهرت دارند، یک برنامه نرم‌افزاری توسعه دادند که مشاهده می‌کرد که یکی از اعضای جامعه پیوندی را برای بحث ارسال می‌کند. سپس نرم افزار یکی از سه شرط زیر را به بحث اختصاص می دهد:

• به خوانندگان پیامی دائمی نشان داده شد که آنها را تشویق می کرد تا مقاله را بررسی کنند و با پیوندهایی به شواهد بیشتر در رد ادعاهای مقاله نظر دهند.
• به خوانندگان پیامی نشان داده شد و تشویق شدند که به مقاله رای منفی بدهند. مقالات Reddit توسط اعضای انجمن که به عنوان “redditors” شناخته می شوند بر این اساس رای مثبت یا منفی داده و رتبه بندی می شوند..
• و در گروه کنترل هیچ اقدامی صورت نگرفت.

ماتیاس گفت که او انتظار دارد که بررسی واقعیت بتواند نتیجه معکوس داشته باشد. اگر حقیقت‌سنجی توجه بیشتری را روی یک داستان غیرقابل اعتماد متمرکز کند، الگوریتم ممکن است آن را به عنوان تقویت‌کننده مثبت مقاله ببیند و باعث شود که به طور متوسط رتبه‌بندی بالاتری داشته باشد.

“این نگرانی وجود دارد که اگر یک دروغ را به اندازه کافی تکرار کنید، آیا آن را در ذهن کسی تثبیت خواهید کرد؟و آیا چیزی مشابه با این الگوریتم‌های توصیه وجود دارد که لزوماً نتواند درست را از غلط تشخیص دهد؟ حتی اگر در حال بررسی واقعیت باشید، ممکن است الگوریتم تعامل بیشتری ببیند و آن را به افراد بیشتری نشان دهد.”

معلوم شد که اینطور نیست. در مجموع 1104 بحث خبری که از دسامبر 2016 تا فوریه 2017 گردآوری شد، ماتیاس دریافت که فقط تشویق به بررسی حقایق – حتی بدون رای منفی – باعث افت رتبه داستان به طور متوسط 25 نقطه منفی شده است. در Reddit، این باعث می‌شود که یک داستان از صفحه اول خارج شود و احتمالاً تعداد قابل توجهی از خوانندگان آن را از دست بدهند.

اگرچه در مقیاس محدود انجام شده است، اما آزمایش خود را به عنوان دلیلی می بیند که مردم می توانند به طور جمعی کنترل اطلاعاتی که به آنها داده می شود را در دست بگیرند، و نه فقط یک رژیم غذایی ثابت از دروغ را بپذیرند.

او گفت: “در مورد این ایده جبرگرایی صحبت های زیادی وجود دارد – اینکه تصمیمات یک مهندس در جایی در سیلیکون ولی بر ذهن ما تأثیر می گذارد و ما را در الگوهای رفتاری خاصی حبس می کند.” این سیستم‌ها در حالی که تأثیر دارند، برای واکنش به انسان‌ها طراحی شده‌اند. بنابراین، زمانی که افراد برای بهبود محیط‌های اطلاعاتی ما با هم کار می‌کنند، الگوریتم‌ها می‌توانند مطابق با آن پاسخ دهند.

او گفت: «این یک نمونه واقعاً قدرتمند از چیزی است که برای این جامعه بسیار کاربردی بود و کمک‌های اساسی به دانش علمی می‌کند.»