10 سپتامبر 2021 توسط باب ییرکا، اعتبار arXiv: 2109.00162v1 [cs.CV]
ساختارهای آناتومی چشم انسان پایین: نمونه‌هایی از مردمک انسان واقعی (چپ) و GAN راست. توجه داشته باشید که مردمک چشم واقعی دارای شکل‌های دایره‌ای یا بیضوی قوی (زرد) است در حالی که برای مردمک‌های GANgenerated با اشکال نامنظم (قرمز) است. و همچنین شکل هر دو مردمک در تصویر چهره ایجاد شده با GAN بسیار متفاوت از یکدیگر است.
یک تیم کوچک از محققان دانشگاه ایالتی نیویورک در بوفالو و کیا مدیکال یک نقص مشترک در چهره‌های کامپیوتری پیدا کرده‌اند که به وسیله آن‌ها می‌توان آن‌ها را شناسایی کرد. این گروه مقاله‌ای را برای توصیف یافته‌های خود نوشته و آن‌ها را در سرور پیش چاپ arXiv بارگذاری کرده است.
طی دو سال گذشته، تصاویر و فیلم‌های تقلبی در اخبار منتشر شده است، زیرا آماتورها و ویراستاران حرفه‌ای به طور یکسان تصاویر و فیلم‌هایی را ایجاد کرده‌اند که نشان می‌دهد مردم کارهایی را انجام می‌دهند که در واقع هرگز انجام نداده‌اند. کمتر گزارش شده اما مربوط به افزایش استفاده از تصاویر رایانه‌ای از افرادی است که به نظر می‌رسد انسان هستند اما هرگز وجود نداشته‌اند. چنین تصاویری با استفاده از شبکه‌های متخاصم تولید کننده (GANs) ایجاد می‌شوند و ظاهراً در نمایه‌های جعلی کاربران رسانه‌های اجتماعی ظاهر می‌شوند، که امکان انواع فعالیت‌های خلاف را فراهم می‌کند.
GANها نوعی فناوری یادگیری عمیق هستند-یک شبکه عصبی بر روی تصاویر آموزش می‌بیند تا بداند سر و صورت انسان چگونه است. سپس آن‌ها می‌توانند چهره‌های جدیدی را از ابتدا ایجاد کنند. خروجی را می‌توان ظاهر متوسط همه افرادی دانست که شبکه مورد مطالعه قرار داده است. سپس صورت ایجاد شده به شبکه عصبی دیگری ارسال می‌شود که سعی می‌کند واقعی یا جعلی بودن آن را تعیین کند. مواردی که جعلی تلقی می‌شوند برای بازنگری ارسال می‌شوند. این فرایند چندین بار تکرار می‌شود و تصاویر حاصله به حالت واقع گرایانه نزدیک‌تر می‌شوند. در برخی موارد، آن‌ها تمام شده تلقی می‌شوند. اما چنین پردازشی، البته به عنوان محققان با این تلاش جدید، کامل نیست. آن‌ها با استفاده از نرم افزاری که نوشتند دریافتند که بسیاری از GANها تمایل به ایجاد مردمک‌های کمتر از دور دارند، که به گفته آن‌ها، می‌توانند به عنوان نشانگر چهره‌های تولید شده توسط رایانه مورد استفاده قرار گیرند.
محققان خاطرنشان می‌کنند که در بسیاری از موارد، کاربران می‌توانند به سادگی بر روی چشم شخصی که فکر می‌کنند واقعی نیست برای تشخیص بی‌نظمی مردمک زوم کنند. آن‌ها همچنین توجه دارند که نوشتن نرم‌افزار برای تشخیص چنین خطاهایی و استفاده از سایت‌های رسانه‌های اجتماعی برای حذف چنین محتواهایی کار دشواری نخواهد بود. متأسفانه، آن‌ها همچنین توجه دارند که اکنون که چنین بی‌نظمی‌هایی مشخص شده است، افرادی که تصاویر جعلی ایجاد می‌کنند می‌توانند به سادگی یک ویژگی را برای اطمینان از گرد بودن دانش آموزان اضافه کنند.
