شرکت AMD اعلام کرده که پردازنده های Ryzen AI و کارت های گرافیک Radeon این شرکت از روز اول انتشار مدل های جدید GPT-OSS 20B و GPT-OSS 120B که توسط OpenAI عرضه شده اند، به طور کامل پشتیبانی می کنند. این مدل های جدید که به عنوان جانشین های مدل GPT-2 شناخته می شوند، اکنون به صورت اوپن سورس و با وزن باز در اختیار علاقه مندان قرار گرفته اند.
تنها پردازنده ای که از مدل 120B پشتیبانی می کند
پردازنده Ryzen AI MAX+ 395 از AMD تنها چیپ هوش مصنوعی موجود است که می تواند مدل عظیم GPT-OSS 120B را به طور بومی و کامل اجرا کند. این پردازنده با داشتن حافظه گرافیکی اختصاصی تا 128 گیگابایت، به کاربران اجازه می دهد مدل های پیچیده و سنگین را بدون نیاز به سخت افزار دیتاسنتر اجرا کنند. همچنین، کارت های گرافیک Radeon این شرکت هم از اجرای مدل GPT-OSS 20B پشتیبانی کامل دارند.
توانایی های پردازشی و عملکرد بی رقیب
برای اجرای مدل GPT-OSS 120B به سخت افزاری با حافظه بالا نیاز است. معماری Strix Halo و Ryzen AI MAX از AMD برای چنین حجم پردازشی طراحی شده و می توانند به راحتی تا 61 گیگابایت VRAM مورد نیاز این مدل را تأمین کنند. با نصب آخرین نسخه نرم افزار AMD Software: Adrenalin Edition 25.8.1 WHQL یا نسخه های جدیدتر، کاربران می توانند این مدل ها را به راحتی و با سرعت بالا اجرا نمایند.
سرعت پردازش تا 30 توکن در ثانیه ارائه می شود و این یعنی کاربران با لپ تاپ یا پی سی مجهز به Ryzen AI MAX+ 395، می توانند سطح عملکردی معادل دیتاسنتر را در خانه یا محل کار تجربه کنند. همچنین، معماری Mixture-of-Experts این مدل ها موجب بهبود کارایی و سرعت پاسخ دهی در بارهای کاری پیچیده می شود.
عملکرد فوق سریع با Radeon برای مدل 20B
اگر از کارت گرافیک AMD Radeon 9070 XT با 16 گیگابایت حافظه استفاده می کنید، می توانید مدل GPT-OSS 20B را با سرعت بسیار بالا اجرا کنید. در این حالت، سرعت تولید توکن و زمان پاسخ دهی به طور قابل توجهی افزایش یافته و کاربران حتی در سناریوهای پردازشی سنگین هم با تاخیر کمتری روبرو می شوند.
راهنمای راه اندازی مدل های GPT-OSS روی سخت افزار AMD
برای استفاده از این قابلیت ها باید نرم افزار AMD Software: Adrenalin Edition 25.8.1 WHQL یا نسخه بالاتر را نصب کنید. سپس با نصب نرم افزار LM Studio و جستجو برای مدل gpt-oss در قسمت Discover می توانید مدل مورد نظر خود را انتخاب و دانلود کنید. کاربران Ryzen AI باید تنظیمات گرافیکی متغیر (Variable Graphics Memory) را مطابق مشخصات دستگاه خود تنظیم کنند تا بهترین کارایی را داشته باشند. پس از این مراحل، کافی است مدل مورد نظر را بارگذاری و استفاده از هوش مصنوعی را آغاز کنید.
جدول پشتیبانی محصولات AMD از مدل های GPT-OSS
AMD همچنین لیستی از محصولات سازگار با مدل های جدید منتشر کرده است. در حال حاضر فقط Ryzen AI MAX+ 395 از مدل 120B پشتیبانی می کند، اما تمام کارت های گرافیک Radeon RX 9000، Radeon AI PRO R9000 و Radeon RX 7000 با حداقل 16 گیگابایت حافظه به راحتی مدل 20B را اجرا می کنند.
این حرکت AMD نشان دهنده تمرکز ویژه این شرکت بر پردازش های هوش مصنوعی و تلاش برای ارائه توانمندی های دیتاسنتر در قالب دستگاه های مصرفی است و انتخاب خوبی برای علاقه مندان به هوش مصنوعی و توسعه دهندگان خواهد بود.
