خریداری محاسبات اختصاصی برای اجرای مدل های هوش مصنوعی

Kyle Wiggers -• 22 فوریه 2023 -سام آلتمن OpenAI OpenResearch-اعتبار تصویر: دیوید پل موریس / بلومبرگ / گتی ایماژ

OpenAI بی سر و صدا در حال راه اندازی یک پلت فرم توسعه دهنده جدید است که به مشتریان امکان می دهد مدل های جدیدتر یادگیری ماشینی شرکت مانند GPT-3.5 را با ظرفیت اختصاصی اجرا کنند. در اسکرین شات هایی از اسناد منتشر شده توسط کاربران با دسترسی زودهنگام در توییتر، OpenAI پیشنهاد پیش رو به نام Foundry را به عنوان «برای مشتریان پیشرفته طراحی شده که حجم کاری بیشتری دارند» توصیف می کند.

در مستندات آمده است: Foundry اجازه می دهد استنتاج در مقیاس با کنترل کامل بر پیکربندی مدل و مشخصات عملکردی انجام شود.

اگر اسکرین شات ها را باور کنید، Foundry – هر زمان که راه اندازی شود – یک “تخصیص ثابت” از ظرفیت محاسباتی اختصاص داده شده به یک مشتری را ارائه می دهد. کاربران می‌توانند نمونه‌های خاصی را با همان ابزارها و داشبوردهایی که OpenAI برای ساخت و بهینه‌سازی مدل‌ها استفاده می‌کند، نظارت کنند. علاوه بر این، Foundry سطحی از کنترل نسخه را ارائه می‌کند و به مشتریان اجازه می‌دهد تصمیم بگیرند که آیا به نسخه‌های جدیدتر ارتقا دهند یا نه، و همچنین تنظیم دقیق‌تر «محکم‌تر» برای آخرین مدل‌های OpenAI.

Foundry همچنین تعهداتی در سطح خدمات به عنوان مثال پشتیبانی مهندسی در تقویم ارائه خواهد کرد. اجاره ها بر اساس واحدهای محاسباتی اختصاصی با تعهدات سه ماهه یا یک ساله خواهد بود. اجرای یک نمونه مدل جداگانه به تعداد خاصی از واحدهای محاسباتی نیاز دارد .

نمونه ها ارزان نخواهند بود اجرای یک نسخه ساده GPT-3.5 برای یک تعهد سه ماهه 78000 دلار یا برای یک تعهد یک ساله 264000 دلار هزینه خواهد داشت. برای درک این موضوع، یکی از ابرکامپیوترهای نسل اخیر انویدیا، DGX Station، 149000 دلار در هر واحد کار می کند.

     کاربران توییتر و ردیت با چشم عقاب متوجه شدند که یکی از مدل‌های تولید متن فهرست شده در نمودار قیمت‌گذاری نمونه، دارای یک پنجره زمینه حداکثر 32 هزار نفر است. (پنجره زمینه به متنی اشاره دارد که مدل قبل از تولید متن اضافی در نظر می گیرد؛ پنجره های زمینه طولانی تر به مدل اجازه می دهند اساساً متن بیشتری را «به خاطر بسپارد».) GPT-3.5، آخرین مدل تولید متن OpenAI، دارای یک پنجره زمینه حداکثر 4k است. نشان می دهد که این مدل مرموز جدید می تواند GPT-4 مورد انتظار باشد – یا پله ای به سوی آن.

OpenAI پس از سرمایه گذاری چند میلیارد دلاری مایکروسافت تحت فشار فزاینده ای برای کسب سود است. طبق گزارش‌ها، این شرکت انتظار دارد در سال 2023 200 میلیون دلار درآمد داشته باشد که در مقایسه با بیش از 1 میلیارد دلاری که تاکنون برای این استارت‌آپ صرف شده است، ناچیز است.

آموزش مدل‌های پیشرفته هوش مصنوعی می‌تواند بیش از میلیون‌ها دلار هزینه داشته باشد و اجرای آن‌ها معمولاً ارزان‌تر نیست. به گفته سام آلتمن، یکی از بنیانگذاران و مدیر عامل OpenAI، اجرای ChatGPT، چت ربات ویروسی OpenAI برای هر چت چند سنت هزینه دارد – با توجه به اینکه ChatGPT تا دسامبر گذشته بیش از یک میلیون کاربر داشت، مبلغ ناچیزی نیست.

در حرکت به سمت کسب درآمد، OpenAI اخیراً یک نسخه حرفه‌ای از ChatGPT، ChatGPT Plus را راه‌اندازی کرد که از 20 دلار در ماه شروع می‌شود و با مایکروسافت برای توسعه Bing Chat، یک ربات گفتگوی بحث‌برانگیز (به بیان ساده) که توجه جریان اصلی را به خود جلب کرده است، همکاری کرد. طبق گفته Semafor و The Information، OpenAI قصد دارد در آینده یک اپلیکیشن ChatGPT موبایلی را معرفی کند و فناوری زبان هوش مصنوعی خود را در برنامه‌های مایکروسافت مانند Word، PowerPoint و Outlook وارد کند.

به طور جداگانه، OpenAI به ارائه فناوری خود از طریق سرویس Azure OpenAI مایکروسافت، یک پلت فرم ارائه مدل متمرکز بر کسب و کار، و حفظ Copilot، یک سرویس تولید کد ممتاز که با مشارکت GitHub توسعه یافته است، ادامه می دهد.