بررسی نحوه افزودن واترمارک الکترونیکی پنهان به آثار نوشته شده توسط سیستم های هوش مصنوعی

30 ژانویه 2023 -توسط باب یرکا،

منحنی های ROC با مقادیر AUC برای تشخیص واترمارک. چندین گزینه از پارامتر واترمارک δ برای (الف) نمونه برداری چند جمله ای و (ب) رمزگشایی عمیق با جستجوی پرتو 8 طرفه نشان داده شده است. (ج، د) همان نمودارها با محورهای semilog. مقادیر δ بالاتر به عملکرد قوی‌تری دست می‌یابند، اما علاوه بر این، می‌بینیم که برای یک δ داده شده، جستجوی پرتو به واترمارک اجازه می‌دهد تا AUC کمی بیشتر از پارامترهای مربوطه تحت طرح نمونه‌گیری چندجمله‌ای بگیرد. اعتبار: arXiv (2023). DOI: 10.48550/arxiv.2301.10226

تیمی از دانشمندان کامپیوتر در دانشگاه مریلند ابزاری برای افزودن واترمارک به متن تولید شده توسط سیستم های هوش مصنوعی توسعه داده اند. آنها مقاله ای را در مورد رویکرد خود در سرور preprint arXiv ارسال کرده اند.

سیستم‌های هوش مصنوعی تولید متن مانند ChatGPT اخیراً در اخبار منتشر شده‌اند. برخی از سایت‌های خبری گزارش داده‌اند که دانش‌آموزان با استفاده از ربات چت برای نوشتن مقاله برای آنها دستگیر شده‌اند. و سایر علاقه‌مندان استفاده از آنها را در آزمون‌دهی آزمایش کرده‌اند و دریافته‌اند که عملکرد خوبی دارند.

در همین حال، معلمان، اساتید و سایرین در زمینه آموزش به طور فزاینده‌ای نگران نحوه ادامه کار شده‌اند، زیرا نمی‌توانند تشخیص دهند که آیا مقالاتی که دانش‌آموزان تحویل داده‌اند توسط یک سیستم هوش مصنوعی نوشته شده است یا خیر. در این تلاش جدید، این گروه در مریلند ابزاری را برای کمک به کسانی که چنین نگرانی‌هایی دارند ایجاد کرده است – استفاده از واترمارک.

درست مانند پول نقد یا سایر اسناد چاپی، واترمارک ها اطلاعاتی هستند که در مواد چاپی پنهان شده اند و فقط تحت شرایط خاصی مانند نور خاص قابل مشاهده هستند. محققان پیشنهاد می‌کنند که شرکت‌هایی مانند OpenAI، سازندگان ChatGPT، می‌توانند شناسه‌هایی را به متن ایجاد شده توسط ربات خود اضافه کنند که توسط کاربر معمولی (دانش‌آموز) قابل مشاهده نیست، اما می‌تواند توسط یک برنامه نرم‌افزاری مورد استفاده معلمان شناسایی شود. برای اینکه این رویکرد عملی شود، اکثر یا همه سازندگان تولیدکنندگان متن هوش مصنوعی باید به میل خود یا تحت نظارت دولت این طرح را خریداری کنند.

ایجاد واترمارک در متن تولید شده با هوش مصنوعی بیش از افزودن کمی فراداده به یک فایل متنی (همانطور که در عکس ها اتفاق می افتد) نیاز دارد، زیرا متن تولید شده را می توان به راحتی با استفاده از گوشی هوشمند یا دستگاه دیگری کپی کرد.