توسعه ابزارهای هوش مصنوعی قدرتمند همواره با چالش‌های دوگانه امنیتی همراه است. شرکت مون‌شات ای‌آی در تاریخ 2 آبان با رونمایی رسمی، مدل کیمی K3.1 Pro را به‌عنوان یک مدل پایه با وزن‌های آزاد و حدود 3 تریلیون پارامتر معرفی کرد. این مدل با ظرفیت پردازش پنجره بافت 1 میلیون توکنی طراحی شده تا برنامه‌نویسان بتوانند کدهای پیچیده و پروژه‌های بزرگ نرم‌افزاری را تحلیل کنند. با این حال مسئله اصلی در توسعه این ابزار، تصمیم سازندگان برای حذف داده‌های مربوط به حملات سایبری و نفوذ به سیستم‌ها از محیط‌های آموزش اولیه و یادگیری تقویتی است. مون‌شات ای‌آی تلاش میکند قدرتمندترین ابزارهای برنامه‌نویسی را در اختیار توسعه‌دهندگان قرار دهد، اما هم‌زمان توانایی‌های تهاجمی سیستم را در حوزه امنیت شبکه مهار کند.
انتشار مدل به صورت وزن آزاد که قرار است در تاریخ 14 آبان انجام شود، تفاوت ساختاری مهمی با سرویس‌های ابری بسته دارد. در سیستم‌های ابری، شرکت توسعه‌دهنده بر تمام ورودی‌ها و خروجی‌ها نظارت کامل دارد و می‌تواند بلافاصله از تولید محتوای خطرناک جلوگیری کند. اما وقتی فایل‌های وزن مدل در اختیار عموم قرار می‌گیرد، کاربران قادر خواهند بود آن را روی سخت‌افزارهای اختصاصی اجرا کرده و ساختار داخلی آن را تغییر دهند. اتخاذ سیاست‌های پیشگیرانه در مرحله آموزش مدل‌های بزرگ، مشابه راهکارهایی است که پیش‌تر برای محدودسازی محیط آموزش هوش مصنوعی در جهت مهار رفتارهای پیش‌بینی‌نشده اتخاذ شده بود. مسئله این است که آیا پالایش داده‌ها در فاز قبل از انتشار می‌تواند مانع از تغییر کاربری مدل پس از دانلود توسط افراد ثالث شود یا خیر.
ارزیابی معماری و توان محاسباتی مدل کیمی K3.1 Pro
معماری عظیم 3 تریلیون پارامتری در مدل کیمی K3.1 Pro به همراه نسخه Highspeed ارائه می‌شود که طبق اعلام شرکت سازنده، سرعت پردازشی دو تا سه برابر بیشتر از نسخه معمولی دارد. این افزایش سرعت در کنار پنجره بافت 1 میلیون توکنی به تیم‌های مهندسی اجازه می‌دهد تا پرونده‌های متنی سنگین، پایگاه‌های داده کد و مستندات چندلایه را بدون نیاز به تقسیم‌بندی به قطعات کوچک‌تر پردازش کنند. در سناریوهای واقعی مهندسی نرم‌افزار، امکان تحلیل یک‌باره تمام ساختار یک پروژه، احتمال بروز خطا در ردیابی وابستگی‌های میان فایل‌ها را به شدت کاهش می‌دهد.
سازندگان برای سنجش میزان کارایی این ایمن‌سازی، آزمون‌های اختصاصی روی بنچمارک‌های امنیت سایبری داخلی انجام داده‌اند. در این ارزیابی‌ها مدل کیمی K3.1 Pro موفق به کسب امتیاز 81 درصد در بخش شناسایی و کشف آسیب‌پذیری‌ها شد، در حالی که نسخه بدون محدودیت همین مدل امتیاز 90.5 درصد را ثبت کرده بود. افت 9.5 درصدی در این سنجش نشان می‌دهد که پاک‌سازی داده‌های تهاجمی توانسته است قدرت مدل را در سناریوهای نفوذ کاهش دهد. البته باید در نظر داشت که این آمار بر پایه آزمون‌های درون‌شرکتی است و تا زمان ارزیابی توسط موسسات مستقل نمی‌توان آن را یک معیار قطعی قلمداد کرد.
پارادوکس امنیت و کاربری دوگانه در مدل‌های کدباز
ابزارهای هوش مصنوعی اختصاص یافته به کدنویسی ذاتا دارای کاربری دوگانه هستند. همان قابلیت‌های الگوریتمی که به یک مهندس نرم‌افزار اجازه می‌دهد خطاهای امنیتی موجود در کدهای یک سامانه بانکی را شناسایی و وصله کند، می‌تواند توسط یک هکر برای یافتن همان روزنه‌ها و طراحی کدهای مخرب مورد استفاده قرار گیرد. مرز میان تحلیل دفاعی و حمله سایبری در صنعت برنامه‌نویسی بسیار باریک است و سیستم‌های پردازش زبان توانایی تفکیک نیت واقعی کاربر را در تمام شرایط ندارند.
تلاش مون‌شات ای‌آی برای مهار قابلیت‌های تهاجمی بدون آسیب زدن به مهارت‌های عمومی کدنویسی یک گام فنی پیچیده محسوب می‌شود. اگر پالایش داده‌ها بیش از حد مجاز اعمال شود، قدرت درک مدل از منطق برنامه‌نویسی، بازنویسی کدهای پیچیده و اصلاح باگ‌های عادی نیز افت خواهد کرد. طبق اطلاعات منتشر شده در گزارش تحلیلی رویترز در زمینه ابزارهای پیشرفته، نهادهای نظارتی بین‌المللی با دقت روند توسعه این مدل‌ها را زیر نظر دارند تا مطمئن شوند انتشار عمومی آن‌ها خطرات امنیتی غیرقابل کنترلی برای زیرساخت‌ها ایجاد نمی‌کند.
چالش بنیادی دیگر به امکان دستکاری فایل‌های وزن مدل مربوط می‌شود. وقتی مهندسان یا پژوهشگران به فایل‌های وزن دسترسی پیدا می‌کنند، می‌توانند با روش‌های تنظیم دقیق یا تزریق داده‌های جدید، محدودیت‌های اعمال‌شده را تا حد زیادی دور بزنند. به همین دلیل برخی متخصصان بر این باورند که ایمن‌سازی مدل‌های وزن آزاد تنها یک مانع اولیه برای کاربران معمولی ایجاد میکند و نمی‌تواند جلوی بازیگران پیشرفته سایبری را برای بازسازی ابزارهای نفوذ بگیرد.
الزامات سخت‌افزاری و چشم‌انداز قوانین نظارتی
اجرای محلی مدلی با 3 تریلیون پارامتر به هیچ عنوان کار ساده‌ای نیست و نیاز به زیرساخت‌های پردازشی بسیار سنگین دارد. بیشتر شرکت‌های کوچک و توسعه‌دهندگان مستقل توان مالی و سخت‌افزاری لازم برای تامین ده‌ها کارت گرافیک پیشرفته و حافظه‌های عظیم مورد نیاز برای بارگذاری چنین مدلی را ندارند. بنابراین ادعای بهره‌برداری کاملا مستقل و بدون اتکا به ابر برای بخش بزرگی از جامعه کاربری بیشتر یک گزینه نظری است تا یک راهکار عملیاتی روزمره.
هم‌زمان با پیشرفت فناوری، نهادهای قانون‌گذاری نیز واکنش‌های سخت‌گیرانه‌تری نشان می‌دهند. در کشور چین، پیش‌نویس مقررات جدیدی برای کنترل صادرات ابزارهای هوش مصنوعی مرتبط با تولید خودکار بدافزارها و شناسایی روزنه‌های امنیتی ارائه شده که در حال حاضر مراحل نظرسنجی عمومی را می‌گذراند. این اقدامات نشان می‌دهد که حاکمیت‌ها قصد دارند مسئولیت حقوقی و مقرراتی سنگین‌تری را بر دوش توسعه‌دهندگان مدل‌های بزرگ قرار دهند تا از انتشار ابزارهای خطرناک جلوگیری نمایند.
در نهایت موفقیت این الگوی توسعه بستگی به آن دارد که آیا جامعه کاربری پس از انتشار عمومی پایداری مدل را در پروژه‌های واقعی تایید خواهد کرد یا خیر. اگر حذف داده‌های امنیتی باعث کاهش دقت مدل در حل مسائل نرم‌افزاری پیچیده شده باشد، توسعه‌دهندگان ممکن است به سراغ گزینه‌های جایگزین بروند. در غیر این صورت، این اقدام می‌تواند الگویی جدید برای سایر شرکت‌های فعال در حوزه هوش مصنوعی باشد تا بدون نگرانی از پیامدهای امنیتی، مدل‌های پیشرفته خود را در اختیار عموم بگذارند.
