ابزار هوش مصنوعی می تواند بین یک تئوری توطئه و یک توطئه واقعی تفاوت قائل شود

13 نوامبر 2020توسط Timothy R. Tangherlini ، گفتگو

نظریه های توطئه ، که می تواند صدمات قابل توجهی ایجاد کند ، در رسانه های اجتماعی خانه ای که آنها را مورد استقبال قرار داده است ، جایی که مجامع عاری از اعتدال به افراد همفکر اجازه گفتگو می دهند. در آنجا آنها می توانند نظریه های خود را توسعه دهند و اقداماتی را برای مقابله با تهدیدهایی که “کشف می کنند” پیشنهاد دهند.

اما چگونه می توانید تشخیص دهید که روایتی در حال ظهور در شبکه های اجتماعی یک تئوری توطئه بی اساس است؟ به نظر می رسد که می توان بین تئوری های توطئه و توطئه های واقعی با استفاده از ابزارهای یادگیری ماشین برای ترسیم عناصر و اتصالات یک روایت ، تفاوت قائل شد. این ابزارها می توانند اساس یک سیستم هشدار سریع برای هشدار به مقامات در مورد روایت های آنلاین باشند که تهدیدی در دنیای واقعی است.

گروه تجزیه و تحلیل فرهنگ در دانشگاه کالیفرنیا ، که من و ووانی رویشو هدایت آن را داریم ، رویکردی خودکار را برای تعیین زمان مکالمه در شبکه های اجتماعی نشانه های آشکار نظریه پردازی توطئه ایجاد کرده است. ما این روش ها را با موفقیت در مطالعه Pizzagate ، جنبش های همه گیری COVID-19 و ضد واکسیناسیون اعمال کرده ایم. ما در حال حاضر از این روش ها برای مطالعه QAnon استفاده می کنیم که

به طور مشترک ساخته شده و سریع شکل می گیرد.

توطئه های واقعی اقدامات عمدی پنهان و واقعی زندگی افرادی است که برای اهداف بدخواهانه خود با هم کار می کنند. در مقابل ، نظریه های توطئه به طور مشترک ساخته می شوند و در فضای باز اطلاعاتی توسعه می یابند.

نظریه های توطئه به عمد پیچیده است و جهان بینی فراگیر را منعکس می کند. به جای تلاش برای توضیح یک چیز ، یک نظریه توطئه سعی می کند همه چیز را توضیح دهد ، و ارتباطاتی را در حوزه های مختلف تعامل انسان کشف می کند که در غیر این صورت پنهان هستند – بیشتر به این دلیل که وجود ندارند.

در حالی که تصویر مشهور تئوریسین توطئه  ، گرگ تنهاست که ارتباطات گیج کننده ای را با عکس و رشته قرمز بهم می زند ، اما این تصویر دیگر در عصر رسانه های اجتماعی اعمال نمی شود. نظریه پردازی توطئه به صورت آنلاین حرکت کرده و اکنون محصول نهایی یک داستان سرایی جمعی است. شرکت کنندگان پارامترهای یک چارچوب روایی را بررسی می کنند: افراد ، مکان ها و موضوعات یک داستان و روابط بین  آنهارا .

ماهیت آنلاین تئوری پردازی توطئه فرصتی را برای محققان فراهم می کند تا پیشرفت این نظریه ها را از ریشه های آنها بعنوان مجموعه ای از شایعات و داستانهای متفرق غالباً جداگانه تا یک روایت جامع دنبال کنند. برای کارهای ما ، پیتزاگیت موضوع کاملی را ارائه داد.

Pizzagate در اواخر اکتبر 2016 و در جریان انتخابات ریاست جمهوری شروع به توسعه کرد. در عرض یک ماه ، با بازیگران کاملی از شخصیت ها که از مجموعه ای از دامنه های غیرقابل پیوند گرفته شده بودند ، به طور کامل شکل گرفت: سیاست دموکراتیک ، زندگی خصوصی برادران پودستا ، غذاخوری خانوادگی معمولی و قاچاق شیطان پرستانه. موضوع داستانی متصل در میان این حوزه های غیر متفاوتی ، تفسیر خیالی ایمیل های فاش شده کمیته ملی دموکراتیک بود که توسط ویکی لیکس در هفته آخر اکتبر 2016 منتشر شد.

تحلیل روایی هوش مصنوعی

ما مدلی را ایجاد کردیم – مجموعه ای از ابزارهای یادگیری ماشینی – که می تواند روایت ها را بر اساس مجموعه ای از افراد ، مکان ها و چیزها و روابط آنها شناسایی کند. الگوریتم های یادگیری ماشین مقدار زیادی داده را پردازش می کنند تا دسته چیزها را در داده ها مشخص کنند و سپس مشخص کنند که چیزهای خاص به کدام دسته ها تعلق دارند.مردم ذاتاً مستعد تئوری های توطئه هستند و دوره های عدم اطمینان و تشدید اضطراب این حساسیت را افزایش می دهد.

ما 17،498 پست را از آوریل 2016 تا فوریه 2018 در انجمن های Reddit و 4chan که در مورد Pizzagate بحث شده است ، تجزیه و تحلیل کردیم. این مدل با هر پست به عنوان بخشی از یک داستان پنهان رفتار می کند و قصد دارد روایت را کشف کند. این نرم افزار افراد ، مکان ها و چیزهای موجود در پست ها را شناسایی می کند و تعیین می کند کدام یک از عناصر اصلی هستند ، کدام یک از عناصر جزئی هستند و چگونه همه آنها به هم متصل می شوند.

برای اطمینان از خروجی دقیق روشهای ما ، نمودار چارچوب روایی تولید شده توسط مدل خود را با تصاویر منتشر شده در نیویورک تایمز مقایسه کردیم. نمودار ما با آن تصاویر مطابقت دارد و همچنین جزئیات دقیق تری راجع به افراد ، مکانها و اشیا و روابط آنها ارائه می دهد.

حقیقت محکم ، داستان شکننده

برای دیدن اینکه آیا ما می توانیم بین یک تئوری توطئه و یک توطئه واقعی تفاوت قائل شویم ، Bridgegate را بررسی کردیم ، یک عملیات مجادله سیاسی که توسط فرماندار جمهوری خواه کریس کریستی علیه شهردار دموکرات فورت لی ، نیوجرسی آغاز شد.

هنگامی که ما نتایج سیستم یادگیری ماشین خود را با استفاده از دو مجموعه جداگانه مقایسه می کردیم ، دو ویژگی متمایز از چارچوب داستانی یک تئوری توطئه برجسته بود.

اول ، در حالی که نمودار داستانی Bridgegate از 2013 تا 2020 طول کشید تا توسعه یابد ، نمودار Pizzagate ظرف یک ماه کاملاً شکل گرفته و پایدار است. دوم ، نمودار Bridgegate با حذف عناصر زنده ماند ، و این نشان می دهد که سیاست نیوجرسی به عنوان یک شبکه متصل و واحد ادامه خواهد یافت حتی اگر چهره های اصلی و روابط از این رسوایی حذف شوند.

در مقابل ، نمودار Pizzagate به راحتی در زیرگرافهای کوچکتر شکسته شد. وقتی افراد ، مکانها ، اشیا و روابطی را که مستقیماً از تفسیرهای نامه های ویکی لیکس ناشی می شد ، حذف کردیم ، نمودار به شکلی جدا شد که در واقع حوزه های بی ارتباط سیاست ، غذاخوری های گاه به گاه ، زندگی خصوصی پودستاها و دنیای عجیب شیطان پرستی بود.

در تصویر زیر ، صفحات سبز لایه های اصلی روایت ، نقاط اصلی عناصر اصلی روایت هستند ، خطوط آبی اتصالات بین عناصر درون یک لایه و خطوط قرمز اتصالات بین عناصر در سراسر لایه ها هستند. صفحه بنفش تمام لایه ها را با هم نشان می دهد و نحوه اتصال همه نقاط را نشان می دهد. با حذف صفحه ویکی لیکس ، یک صفحه بنفش با نقاطی که فقط در گروه های کوچک به هم متصل می شوند ، به وجود می آید.

لایه های تئوری توطئه Pizzagate با هم ترکیب می شوند و یک روایت ، سمت راست بالا را تشکیل می دهند. یک لایه را حذف کنید ، تفسیرهای خیالی ایمیل های منتشر شده توسط ویکی لیکس ، و کل ماجرا از هم پاشیده می شود .

سیستم هشدار زودهنگام؟

چالشهای اخلاقی روشنی وجود دارد که کار ما آنها را مطرح می کند. به عنوان مثال ، از روشهای ما می توان برای ایجاد پستهای اضافی در بحث تئوری توطئه متناسب با چارچوب داستانی ریشه بحث استفاده کرد. به همین ترتیب ، با توجه به مجموعه ای از دامنه ها ، کسی می تواند از این ابزار برای توسعه یک تئوری توطئه کاملاً جدید استفاده کند.

با این حال ، همانطور که مطالعه ما درباره انجمن های رسانه های اجتماعی روشن می کند ، این سلاح سازی داستان سرایی در حال حاضر بدون روش های خودکار اتفاق می افتد. برای جامعه تحقیقاتی نقشی وجود دارد که به دیگران کمک می کند بفهمند چگونه این سلاح سازی رخ می دهد و ابزارهایی را برای افراد و سازمان هایی که از ایمنی عمومی و نهادهای دموکراتیک محافظت می کنند ، توسعه می دهد.

ایجاد یک سیستم هشدار زودهنگام که ظهور و همسویی روایت های تئوری توطئه را ردیابی می کند ، می تواند محققان – و مقامات – را نسبت به اقدامات در دنیای واقعی که ممکن است مردم براساس این روایت ها انجام دهند ، هشدار دهد.

https://techxplore.com