آیا تراشه هوش مصنوعی شیائومی پایداری لازم برای پردازش محلی را دارد؟

اجرای محلی مدل‌های زبانی بزرگ روی دستگاه‌های قابل حمل همواره با چالش سخت‌افزاری عمیقی به نام دیوارهای حافظه مواجه بوده است. زمانی که پردازنده‌های رایج قصد دارند میلیاردهایی از پارامترهای هوش مصنوعی را پردازش کنند، گلوگاه اصلی نه توان محاسباتی هسته‌ها، بلکه سرعت انتقال داده‌ها از حافظه اصلی به واحد پردازش است. در رویداد پاییزی رونمایی از محصولات جدید، لی جون از سه تراشه جدید خانواده ایکس‌رینگ پرده‌برداری کرد که در این میان تراشه هوش مصنوعی شیائومی با نام Xring O100 به عنوان یک شتاب‌دهنده اختصاصی روی کار پردازش محلی تمرکز دارد. این تراشه با هدف انتقال بار محاسباتی مدل‌های زبانی از سرورهای ابری به داخل خود دستگاه طراحی شده است تا پایداری و امنیت داده‌های کاربر بدون نیاز به اتصال شبکه تضمین شود. توسعه این سخت‌افزار نشان‌دهنده تغییر جهت استراتژیک به سمت مستقل‌سازی زیرساخت‌های پردازشی است، اما عبور از موانع فیزیکی تولید انبوه احتیاج به تحلیل دقیق مهندسی دارد.

در معماری‌های متعارف، تراشه اصلی پردازنده و ماژول‌های حافظه به صورت جداگانه روی بورد اصلی قرار می‌گیرند و ارتباط میان آن‌ها از طریق مسیرهای مسی هدایت می‌شود. این فاصله فیزیکی کوتاه حتی در بهینه‌ترین حالات، تاخیر تبادل داده را افزایش داده و میزان انرژی مصرفی برای انتقال هر بایت داده را بالا می‌برد. شیائومی برای حل این چالش در شتاب‌دهنده Xring O100 از فناوری بسته‌بندی پیشرفته انباشت عمودی لایه‌ها در سطح ویفر استفاده کرده است. در این ساختار، لایه‌های منطقی محاسباتی و لایه‌های حافظه DRAM به صورت عمودی روی یکدیگر چیده شده و با اتصالات پیوندی هیبریدی متصل می‌شوند. نتیجه این یکپارچه‌سازی، دستیابی به پهنای باند حافظه 1.22 ترابایت بر ثانیه است که تا 16 برابر افزایش سرعت انتقال داده نسبت به معماری‌های معمول موبایل را نشان می‌دهد. چنین پهنای باندی اجازه می‌دهد توکن‌های مدل زبانی با سرعت بسیار بیشتری پردازش و استخراج شوند.

تراشه هوش مصنوعی شیائومی و چالش‌های حرارتی انباشت سه بعدی

انباشت عمودی حافظه DRAM دقیقا روی لایه منطقی پردازنده با وجود حل چالش پهنای باند، پیچیدگی تازه و حساسی در زمینه مدیریت حرارت ایجاد می‌کند. لایه‌های منطقی به ویژه واحدهای NPU در هنگام پردازش سنگین، گرمای قابل توجهی تولید می‌کنند. وقتی این گرما بی‌واسطه به لایه حافظه بالایی منتقل شود، پایداری سلول‌های DRAM به خطر می‌افتد زیرا حافظه‌های رم به شدت نسبت به افزایش دما حساس هستند. افت عملکرد ناشی از افزایش دما می‌تواند سرعت تبادل داده را کند کرده یا باعث بروز خطا در داده‌های پردازشی شود. شیائومی برای مقابله با این پدیده، واحد NPU را به صورت چند هسته‌ای طراحی کرده که از قابلیت مسیردهی پویا برای توزیع بار کاری میان هسته‌ها بهره می‌برد.

در شرایط واقعی، هنگامی که یک پردازش سنگین مانند خلاصه کردن یک متن بسیار طولانی یا تحلیل فایل‌های صوتی به مدت چند دقیقه طول می‌کشد، پدیده تراتلینگ حرارتی می‌تواند پایداری تراشه را دچار اختلال کند. اگر سیستم خنک‌کننده دستگاه نتواند گرمای حاصل از لایه‌های عمودی را به سرعت خارج کند، فرکانس کاری هسته‌ها به طور خودکار کاهش می‌یابد. این کاهش فرکانس، ادعای دستیابی به سرعت استنتاج 330 توکن بر ثانیه را در استفاده طولانی‌مدت با تردید مواجه می‌کند. علاوه بر این، انتقال حرارت مداوم به لایه حافظه می‌تواند طول عمر مفید قطعه را کاهش دهد. بررسی تکنولوژی خنک‌کننده Loop LiquidCool شیائومی نشان می‌دهد که این شرکت قبلا هم روی راهکارهای دفع حرارت در شاسی‌های فشرده کار کرده است، اما خنک‌سازی یک تراشه سه بعدی هم‌پیوسته با لایه DRAM نیازمند ضریب انتقال حرارت بسیار بالاتری خواهد بود.

نمونه‌های اولیه‌ای که شیائومی برای نمایش توان این شتاب‌دهنده به کار گرفته شامل تبلت‌ها و یک مینی کامپیوتر رومیزی با نام Xiaomi AI Cube بوده است. انتخاب این فرم‌فاکتورها اتفاقی نیست، ابعاد بزرگ‌تر مینی کامپیوتر و تبلت اجازه می‌دهد سیستم‌های خنک‌کننده فعال یا اتاقک‌های بخار وسیع‌تر تعبیه شوند تا تراشه O100 در کنار سایر پردازنده‌های سری ایکس‌رینگ بتواند عملکرد پایداری از خود نشان دهد. جانمایی این تراشه در بدنه باریک گوشی‌های هوشمند مستلزم کاهش قابل توجه مصرف انرژی یا ابداع راهکارهای خنک‌سازی کاملا جدید خواهد بود، چرا که بدنه محدود موبایل توان دفع مداوم گرمای تولید شده توسط انباشت عمودی را ندارد.

پیچیدگی‌های ساخت و چشم‌انداز اقتصادی بسته‌بندی ویفر

توسعه شتاب‌دهنده اختصاصی بر پایه لیتوگرافی 6 نانومتری و بسته‌بندی پیشرفته سه بعدی، تصمیم استراتژیک شیائومی برای کاهش وابستگی به تراشه‌سازان خارجی را آشکار می‌سازد. با این حال، فرآیند تولید ساختارهای انباشته سه بعدی با اتصالات هیبریدی در سطح ویفر، چالش‌های فراوانی در نرخ بازدهی تولید دارد. در بسته‌بندی‌های معمولی، لایه‌ها پیش از سوار شدن تست می‌شوند، اما در پیوند هیبریدی ویفر به ویفر، کوچک‌ترین نقص در لایه منطقی یا لایه DRAM کل مجموعه تراشه را غیرقابل استفاده می‌کند. این مسئله نرخ ضایعات خط تولید را افزایش داده و هزینه تمام‌شده هر قطعه را به شدت بالا می‌برد.

در کنار چالش‌های ساخت، مسئله تامین لایه‌های حافظه مناسب نیز مطرح است. با توجه به اینکه صنعت با بحران کمبود تراشه حافظه DRAM روبه‌رو است، تامین پایدار لایه‌های حافظه با کیفیت بالا برای انباشت عمودی می‌تواند بر هزینه‌های نهایی محصولات مجهز به این شتاب‌دهنده فشار وارد کند. اگر شیائومی نتواند هزینه‌های تولید پیوند هیبریدی را کنترل کند، قیمت نهایی دستگاه‌ها در بازار مصرفی افزایش خواهد یافت. این امر ممکن است توجیه اقتصادی سخت‌افزار را برای طیف وسیعی از خریداران زیر سوال ببرد یا شرکت را مجبور کند بخشی از هزینه‌ها را از حاشیه سود خود جذب کند.

افق زمانی تعیین‌شده برای تجاری‌سازی کامل این تراشه سال 2027 میلادی یا 1405 شمسی اعلام شده است. این فاصله سه ساله نشان می‌دهد که طرح معرفی‌شده هنوز در مرحله نمونه‌های اولیه آزمایشگاهی قرار دارد و تا رسیدن به نرخ بازدهی اقتصادی در خطوط تولید انبوه فاصله دارد. در طول این بازه زمانی، معماری مدل‌های زبانی بزرگ ممکن است تغییر کند و نیازمندی‌های سخت‌افزاری متفاوتی شکل بگیرد. بنابراین، پایدار ماندن معماری Xring O100 در برابر تغییرات سریع الگوریتم‌های هوش مصنوعی یک ریسک مهندسی محسوب می‌شود که موفقیت نهایی آن به انعطاف‌پذیری بخش نرم‌افزاری و ابزارهای توسعه وابسته خواهد بود. گزارش‌های منتشرشده در رسانه‌های فناوری چین نیز بر طولانی بودن مسیر تجاری‌سازی این فناوری تاکید دارند.

ارزیابی بنچمارک استنتاج و معیارهای واقعی عملکرد

ارائه بنچمارک استنتاج با سرعت 330 توکن بر ثانیه جذاب به نظر می‌رسد، اما بدون مشخص بودن جزئیات مدل تست‌شده، تحلیل دقیق آن دشوار است. مشخص نشده که این بنچمارک روی چه مدلی، با چه تعداد پارامتر و چه سطحی از کوانتیزاسیون به دست آمده است. پردازش یک مدل زبانی 2 میلیارد پارامتری سبک با فرمت 4 بیتی، توان محاسباتی به مراتب کمتری نسبت به یک مدل 7 یا 13 میلیارد پارامتری با دقت بالاتر نیاز دارد. بدون ارائه این شفافیت فنی، نمی‌توان عدد 330 توکن بر ثانیه را به عنوان یک معیار قطعی برای تمام سناریوهای هوش مصنوعی در نظر گرفت.

کارایی واقعی تراشه در برنامه‌های روزمره مانند پردازش متن، ترجمه همزمان یا کدنویسی محلی، به تعامل هماهنگ میان واحد NPU، معماری حافظه و بهینه‌سازی‌های نرم‌افزاری بستگی دارد. اگر ابزارها و کتابخانه‌های توسعه نرم‌افزاری لازم برای این واحد NPU چند هسته‌ای آماده نشود، توسعه‌دهندگان مستقل تمایلی به بهینه‌سازی برنامه‌های خود برای این شتاب‌دهنده نشان نخواهند داد. عدم پشتیبانی نرم‌افزاری قوی می‌تواند حتی پیشرفته‌ترین تراشه‌های سه بعدی را به قطعاتی بلااستفاده در سخت‌افزار تبدیل کند و مزیت پهنای باند 1.22 ترابایتی را بی‌پاسخ بگذارد.

مسئله تعمیرپذیری و یکپارچگی سخت‌افزاری نیز یکی دیگر از جنبه‌های مغفول در این معماری است. در ساختارهای مجتمع سه بعدی، اگر یکی از لایه‌ها دچار نقص فنی یا سوختگی بر اثر فشار حرارتی شود، امکان تعویض جداگانه لایه حافظه یا واحد پردازشی وجود ندارد و کل تراشه باید جایگزین شود. این یکپارچگی شدید، هزینه تعمیرات سخت‌افزاری دستگاه را در صورت بروز آسیب افزایش می‌دهد. از این رو، تضمین پایداری کارکرد در طول چند سال استفاده مداوم، اهمیتی برابر با سرعت اولیه پردازش توکن‌ها پیدا می‌کند.

پروژه شتاب‌دهنده Xring O100 نشان‌دهنده عزم جدی برای حل مسئله گلوگاه حافظه در پردازش محلی هوش مصنوعی است، اما موفقیت نهایی آن در بازار مصرفی نه با اعداد روی کاغذ، بلکه با توانایی مدیریت حرارت در بدنه‌های باریک و میزان مصرف انرژی سنجیده خواهد شد. آیا معماری انباشت عمودی می‌تواند بدون ایجاد فشار حرارتی مخرب روی سلول‌های DRAM، به استانداردی پایدار برای پردازش بی‌نیاز از ابر تبدیل شود؟ پاسخ به این سوال پس از ورود اولین محصولات نهایی به بازار مشخص خواهد شد و مسیر آینده پردازنده‌های موبایل را روشن خواهد ساخت.