چگونه بنیاد دیده بان اینترنت از فناوری برای مقابله با کودک آزاری آنلاین استفاده می کند

توسط متیو گودینگ – 12 ژانویه 2022

همانطور که زندگی کاری و اجتماعی ما در طول همه گیری کووید-19 دیجیتالی شد، روند بسیار تیره تری نیز در حال آشکار شدن بود. افزایش شدید تعداد افرادی که به تصاویر سوء استفاده جنسی از کودکان آنلاین دسترسی دارند. بنیاد تماشای اینترنت (IWF)، یک موسسه خیریه که به یافتن و حذف این تصاویر از وب اختصاص دارد، تنها در اولین ماه از قرنطینه 2020 در بریتانیا، 8.8 میلیون تلاش برای دسترسی به مطالب غیرقانونی را شناسایی کرد. احتمالاً مقیاس مشکل بسیار بزرگتر است.

برای IWF، این بیماری همه گیر افزایش نگران کننده ای را در حجم مطالب مربوط به کودک آزاری که به صورت آنلاین به اشتراک گذاشته شده و مشاهده می شود، تشدید کرده است. این سازمان می‌گوید میزان تصاویر و ویدیوهایی که هر سال شناسایی می‌کند از سال 2011 تا کنون 1420 درصد افزایش یافته است و در ماه نوامبر اعلام کرد که تحلیل‌گرانش 200000 تصویر غیرقانونی را در سال 2021 شناسایی کرده‌اند، اولین باری است که در یک سال تقویمی به این نقطه عطف بد رسیده است.

سکستون در ماه فوریه به عنوان CTO به IWF پیوست و قبلاً خدمات اطلاعاتی و محاسباتی را در بخش مهندسی دانشگاه کمبریج رهبری می کرد. او به خاطر می‌آورد: «من کارم را در IT Helpdesk 20 سال پیش آغاز کردم و از مردم خواستم رایانه‌های خود را خاموش و دوباره روشن کنند. “از آن زمان من در بخش دولتی در مقامات محلی و دانشگاهی کار کرده ام، و همچنین مدتی را در توسعه نرم افزار بخش خصوصی گذرانده ام.”

Sexton به عنوان CTO مسئول بخش فنی خیریه است که شامل یک تیم سه نفره است که زیرساخت های فناوری اطلاعات را نظارت می کنند و یک تیم توسعه چهار نفره که در حال حاضر در حال گسترش است. “شغل من دارای سه حوزه اصلی است: یکی زیرساخت های داخلی IT، یکی توسعه نرم افزار است زیرا ما بسیاری از محصولات سفارشی را برای منطقه ای که در آن کار می کنیم انجام می دهیم، و آخرین بخش آن این است که صدای تخصص برای رهبری ارشدمان باشد. او توضیح می دهد که تیم، به هیئت مدیره ما مشاوره می دهد و با شرکای خارجی در دولت و صنعت صحبت می کند.

سکستون می‌گوید این بخش آخر کار یکی از لذت‌بخش‌ترین بخش‌ها بوده است. او می‌گوید: بسیاری از افرادی که در این فضا کار می‌کنند بسیار روی سیاست‌گذاری متمرکز هستند و داشتن صدایی با تجربه فنی در پشت آن مورد استقبال قرار گرفته است. توانایی ترجمه چیزهای بسیار فنی به روشی که مردم می فهمند واقعاً رضایت بخش بوده است، و من همیشه احساس می کردم که یک صدای خوشایند در اتاق هستم.

تحلیلگران IWF با همکاری با جامعه فناوری شرکت های عضو IWF مانند اپل، گوگل و مایکروسافت و همچنین برخی از بزرگ ترین نام ها در مخابرات و رسانه های اجتماعی، سازمان های دولتی و سازمان های مجری قانون، گزارش های سوء استفاده را دریافت و ارزیابی می کنند. مطالب آنلاین، یا توسط این آژانس‌ها یا از طریق خط تلفن سازمان ارسال شده است. آنها سپس برای حذف تصاویر توهین آمیز کار می کنند و اطمینان حاصل می کنند که دوباره منتشر نمی شوند.

برای انجام موثر این کار، IWF باید مقدار زیادی از تصاویر بسیار حساس و دلخراش را روی سیستم‌های خود ذخیره کند و سکستون می‌گوید که جای تعجب نیست که امنیت به این دلیل از اولویت بالایی برخوردار است. همچنین به این معنی است که IWF قادر به پیوستن به بسیاری از سازمان‌هایی نیست که برای استقبال از رایانش ابری عجله کرده‌اند. او می‌گوید: «موارد واقعاً حساس همگی در محل نگهداری می‌شوند، و ما یک شبکه اختصاصی و ایمن داریم که در آن همه داده‌ها و تصاویر ذخیره می‌شوند». ما همچنین کارهای زیادی را با CAID پایگاه اطلاعاتی تصاویر سوء استفاده از کودکان وزارت خانه انجام می‌دهیم، بنابراین باید اطمینان حاصل کنیم که در مورد ذخیره‌سازی و پردازش مقادیر زیادی از این نوع مواد، همان شیوه‌هایی را که آنها انجام می‌دهند، دنبال می‌کنیم.»

IWF یکی از معدود سازمان هایی است که اجازه ذخیره و کپی این نوع داده ها را دارد. سکستون می گوید: این یک مسئولیت بزرگ است و به این معنی است که امنیت سایبری بخش بزرگی از نقش من است.

سکستون توضیح می دهد که در مرکز کار IWF، تحلیلگرانی قرار دارند که گزارش هایی از مردم دریافت می کنند یا محتوای کودک آزاری را دنبال می کنند. او می‌گوید: «این افراد گزارش‌های عمومی را دریافت می‌کنند و فعالانه وارد اینترنت می‌شوند تا وب‌سایت‌هایی را پیدا کنند که محتوای سوءاستفاده جنسی از کودکان را میزبانی یا ذخیره می‌کنند، آن محتوا را ارزیابی می‌کنند و سعی می‌کنند آن را حذف کنند». “تیم من به دنبال این است که چه ابزارهایی را می توانیم توسعه دهیم تا به آنها کمک کنیم تا کار خود را به بهترین نحو انجام دهند.”

یکی از راه‌های انجام این کار، استفاده از هش‌ها، اختصاص یک مقدار منحصر به فرد به یک تصویر توهین‌آمیز است که می‌تواند با اعضای IWF به اشتراک گذاشته شود. مدیر ارشد فناوری IWF توضیح می دهد: «یکی از ابزارهایی که ما در حال توسعه آن بوده ایم IntelliGrade نام دارد که ارزیابی و طبقه بندی خودکار تصاویر را امکان پذیر می کند. ما هر دو هش ادراکی و رمزنگاری را تولید می‌کنیم که اعضای ما می‌توانند به سیستم‌های تشخیص خودکار خود برای پیدا کردن و مسدود کردن و حذف خودکار این مواد وارد شوند.»

سکستون می گوید که این به تقویت کار تحلیلگران IWF کمک می کند. او می‌گوید: «ما می‌خواهیم گردش کار تحلیلگران خود را تا حد امکان کارآمد کنیم. آنها ماهانه صدها هزار تصویر را پردازش می‌کنند و استفاده از فناوری به آنها امکان می‌دهد سریع‌تر از آن تصاویر عبور کنند و همچنین اطلاعات بیشتری را جمع‌آوری کنند. من فکر می‌کنم این یکی از راه‌هایی است که ما می‌توانیم تأثیر بیشتری در مبارزه با این مشکل داشته باشیم – فقط گفتن «این تصاویر غیرقانونی هستند» نیست، ما ابزارهایی ایجاد می‌کنیم که امکان ضبط مواردی مانند سن، جنسیت و نوع تخمینی را فراهم می‌کند. فعالیت. به این ترتیب می‌توانیم مجموعه داده‌های غنی‌تری ایجاد کنیم که بینش بیشتری در مورد مشکلی که با آن روبرو هستیم به ما می‌دهد.»

سکستون می گوید سرمایه گذاری در فناوری اختصاصی برای IWF نتیجه می دهد. او می‌گوید: ابزارهایی وجود دارد که توسط خطوط تلفن و آژانس‌های مجری قانون دیگر استفاده می‌شود. اما داشتن یک تیم توسعه نرم‌افزار داخلی برای ساخت ابزارهای خاص برای فرآیندهای ما به این معنی است که می‌توانیم با گسترش کار خود به سرعت جهت را تغییر دهیم و [اگر] بخواهیم داده‌های بیشتری جمع‌آوری کنیم، می‌توانیم آن را در آن برنامه‌نویسی کنیم.

توسعه ابزارهای خودکار بیشتر برای کمک به تحلیلگران IWF، تمرکز بزرگی برای سکستون در آستانه سال 2022 است. او می افزاید که این سازمان همچنین می تواند نقشی در کمک به اشخاص ثالث در توسعه ابزارهای هوش مصنوعی برای مبارزه با مشکل تصاویر سوء استفاده ایفا کند.