توسط اسوند اوزوبا و داگلاس یونگ 17 ژوئن سال 2020
استفاده از فناوری تشخیص چهره به هدف جدیدی در مبارزه با نژادپرستی و وحشیگری در اجرای قانون تبدیل شده است. هفته گذشته ، IBM اعلام كرد كه كاملاً کسب و کار تشخیص چهره را ترك می كند و مدیرعامل آن از پاسخ به این سوال كه آیا این یك وسیله مناسب برای اجرای قانون است ، خودداری كرد. در طی چند روز ، مایکروسافت و آمازون هرکدام اعلام کردند که – حداقل به طور موقت – سازمان های اجرای قانون را از استفاده از نرم افزار تشخیص چهره خود منع می کنند. قانون عدالت در پلیس ، که هفته گذشته نیز در کنگره معرفی شد ، به طور خاص می تواند تشخیص چهره فیلم دوربین بدن مأمورین را ممنوع کند.
فن آوری های تشخیص چهره – با فرض توسعه دهندگان خود که در کد آنها تعبیه شده است – اغلب در تشخیص زنان ، افراد مسن و افرادی که پوست تیره دارند ، ضعیف عمل می کنند. سوال کمی درباره این که این نقص ها وجود دارند مطرح می شود. اما ممنوعیت تشخیص چهره لزوما بهترین پاسخ نیست.
ما فقط به این دلیل که چشمان ما کم دید است ، کور نمی شویم. ما یاد می گیریم اعتماد به دید خود را کالیبره کنیم – یا از عینک استفاده می کنیم.
فناوری چندان متفاوت نیست. حتی سیستم هایی با ضعف های شناخته شده برای افزایش مقیاس خدمات عمومی مهم هستند. به عنوان مثال ، بسیاری از ما مالیات می دهیم و یا برای مزایایی در اینترنت متقاضی می شویم ، حتی اگر می دانیم چنین سایت هایی در معرض اختلالات ناخواسته یا مخرب وآسیب رسان هستند. به رسمیت شناختن فناوری شناسایی چهره ، برنامه های کاربردی دولتی نیز دارد ، از جمله غربالگری امنیتی فرودگاهی ، ردیابی قراردادها و شناسایی کودکان مفقود شده یا افراد قاچاقچی.
بحث و گفتگوهای موجود در مورد تشخیص چهره درباره تعصب و نتایج نادرست مربوط به نژاد یا جنسیت است. این امر می تواند در آینده نزدیک برطرف شود ، اما این معضل اساسی را ترمیم نمی کند که عدم تعادل بین شهروندان و اجرای قانون است. بر این اساس ، بحث تشخیص چهره هر چه زودتر بالا می گیرد. این ابزارها می توانند افراد را از حریم خصوصی خود محروم کرده و امکان نظارت گسترده را فراهم کنند. آزادی خواهان مدنی ممکن است استدلال کنند که تشخیص چهره روند قانونی را نقض می کند ، اما هیچ تضمینی در مورد توافق بادادگاه ها وجود ندارد.
به همین ترتیب ، آیا می توان بر ادارات پلیس نظارت کرد تا از نحوه استفاده یا سوءاستفاده از ابزارهای تشخیص چهره خود نظارت شوند؟ اگر اشتباهاتی کشف شود ، آیا سیستم عدالت کیفری پاسخگوی کسانی خواهد بود که جانشان در معرض خطر قرار دارد؟ اعتراضات گسترده به دنبال قتل های جورج فلوید و برونا تیلور به دست نیروی پلیس حاکی از آن است که بخش های بزرگی از آمریکایی ها فکر می کنند جواب این سؤال ها خیر است.نقص فن آوری تشخیص چهره می تواند در آینده نزدیک برطرف شود. اما این مشکل معضل اساسی را ترمیم نمی کند: عدم تعادل قدرت بین شهروندان و اجرای قانون.
اگر مردم به تعامل انسانی افسران پلیس بی اعتماد باشند ، چگونه می توانیم از قبل به آنها اعتماد کنیم تا بتوانند ابزاری ناقص اما بالقوه با ارزش مانند این را به کار گیرند؟ در ابتدا ، ما به سازوکارهایی نیاز داریم تا به ذینفعان مستقل – تنظیم كنندگان قوانین و جامعه – كمك كنند تا نقایص را تشخیص دهند و مؤسسات پاسخگو باشند.
به عنوان مثال ، ابزارهای تشخیص چهره می توانند در معرض دید برای عموم آزاد شوند. تصمیمات الگوریتمی ، چه در سطح فردی و چه سیستمی ، می توانند جامعه را به چالش بکشند. رویه های شکایت باید عادلانه و کارآمد باشد ، بدون آنکه بار مضاعف به افرادی که مظنون به سوءاستفاده هستند ، وارد شود.
اگرچه ممکن است دستیابی به چنین اصلاحات گسترده ای برای پلیس دشوار باشد ، اما در درازمدت از هرگونه ممنوعیت خاص فناوری موثرتر است.
https://www.rand.org
