توسط کریستوفر A. Mouton، Caleb Lucas، Ella Guest
سوالات تحقیق
- چگونه می توان از هوش مصنوعی – و به طور خاص تر، LLM ها – در زمینه حملات بیولوژیکی سوء استفاده کرد؟
- راه های آینده برای تحقیق در مورد سوء استفاده از هوش مصنوعی و LLM در این زمینه چیست؟
پیشرفت سریع هوش مصنوعی (AI) پیامدهای گسترده ای در حوزه های مختلف دارد، از جمله پتانسیل آن برای استفاده در توسعه سلاح های بیولوژیکی پیشرفته. سرعتی که در آن فناوری‌های هوش مصنوعی در حال تکامل هستند، اغلب از ظرفیت نظارت نظارتی دولت فراتر می‌رود که منجر به شکاف بالقوه در سیاست‌ها و مقررات موجود می‌شود. حملات بیولوژیکی قبلی که به دلیل کمبود اطلاعات شکست خورده بودند ممکن است در دنیایی که ابزارهای هوش مصنوعی به تمام اطلاعات مورد نیاز برای پر کردن شکاف اطلاعاتی دسترسی دارند، موفق شوند.
نویسندگان این گزارش به موضوع نوظهور شناسایی و کاهش خطرات ناشی از سوء استفاده از هوش مصنوعی – به ویژه مدل های زبان بزرگ (LLMs) – در زمینه حملات بیولوژیکی نگاه می کنند. آنها یافته‌های اولیه تحقیقات خود را ارائه می‌کنند و مسیرهای آینده را برای آن تحقیق بررسی می‌کنند، زیرا هوش مصنوعی و LLM به پیچیدگی و سرعت می‌رسند.
یافته های کلیدی
- در آزمایشات تا به امروز، LLM ها دستورالعمل های صریحی برای ایجاد سلاح های بیولوژیکی ایجاد نکرده اند. با این حال، LLM ها راهنمایی هایی ارائه کردند که می تواند به برنامه ریزی و اجرای یک حمله بیولوژیکی کمک کند.
- در یک سناریوی داستانی همه‌گیر طاعون، LLM درباره همه‌گیری‌های ناشی از سلاح‌های بیولوژیکی، شناسایی عوامل بالقوه، و در نظر گرفتن بودجه و عوامل موفقیت بحث کرد. LLM جنبه های عملی به دست آوردن و توزیع نمونه های آلوده به Yersinia pestis را در حالی که متغیرهایی را که می توانند بر تعداد مرگ و میر پیش بینی شده تأثیر بگذارند شناسایی کرد.
- در سناریوی تخیلی دیگری، LLM روش‌های انتقال سم بوتولینوم از طریق غذا و آئروسل را مورد بحث قرار داد و خطرات و الزامات تخصصی را ذکر کرد. LLM دستگاه های آئروسل را به عنوان یک روش پیشنهاد کرد و یک داستان پوششی برای به دست آوردن کلستریدیوم بوتولینوم پیشنهاد کرد در حالی که به نظر می رسید تحقیقات قانونی انجام می دهد.
- این یافته‌های اولیه هنوز درک کاملی از تأثیر عملیاتی در دنیای واقعی LLM بر برنامه‌ریزی حمله سلاح‌های زیستی ارائه نمی‌کنند. هدف تحقیق در حال انجام ارزیابی این است که این خروجی ها از نظر عملیاتی برای فعال کردن بازیگران غیردولتی چه معنایی دارند. گزارش نهایی این تحقیق روشن خواهد کرد که آیا متن تولید شده توسط LLM اثربخشی بالقوه و احتمال ایجاد آسیب گسترده توسط یک عامل مخرب را افزایش می دهد یا مشابه سطح خطر موجود ناشی از اطلاعات مضری است که قبلاً در اینترنت قابل دسترسی است.
