بحث بر سر موازنه میان سرعت توسعه فنی و کنترل خطرات هوش مصنوعی به مرحله حساسی رسیده است. سم آلتمن مدیرعامل اوپن‌ای‌آی در نخستین قسمت از پادکست Decoded متعلق به رسانه پلیتیکو موضعی اتخاذ کرد که توجه کارشناسان فناوری را جلب کرده است. او استدلال می‌کند که جامعه باید وقوع برخی آسیب‌ها و اتفاقات ناگوار مانند کلاهبرداری‌های اینترنتی یا نفوذهای سایبری را به عنوان هزینه‌ای اجتناب‌ناپذیر بپذیرد تا در مقابل، منافع گسترده‌تر فناوری و قدرت عمل در اختیار کاربران قرار گیرد. این موضع‌گیری نشان‌دهنده یک تغییر مسیر راهبردی در نگاه رهبران سیلیکون ولی است. مدافعان این دیدگاه باور دارند که تلاش برای جلوگیری از تمام آسیب‌های جانبی، مسیر پیشرفت ابزارهای هوشمند را مسدود می‌کند و مانع از دستیابی به دستاوردهای بزرگتر میشود.
با این حال، پذیرش چنین هزینه‌ای برای کاربران عادی و نهادهای مالی ابعاد دیگری دارد. وقتی یک شرکت بزرگ فناوری اعلام می‌کند که خطاهای امنیتی یا سوءاستفاده‌های خرابکارانه بهای طبیعی پیشرفت هستند، بار اصلی این خسارت‌ها به دوش مصرف‌کنندگان و ساختارهای سنتی منتقل میشود. قربانیان فیشینگ و حساب‌های خالی‌شده بانکی معمولا جبرانی از سوی توسعه‌دهندگان مدل‌ها دریافت نمی‌کنند. به همین دلیل، موضع آلتمن بلافاصله به محل مناقشه میان طرفداران توسعه پرشتاب و مدافعان ایمنی الگوریتم‌ها بدل شد.
آلتمن برای توجیه دیدگاه خود، میان خطرات محدود و آسیب‌های فاجعه‌بار مرزبندی مشخصی ترسیم می‌کند. از نگاه او، مواردی چون هک سامانه‌ها یا فریب‌های مالی گرچه دردسرساز هستند، اما بقای تمدن یا کنترل انسان بر ماشین را تهدید نمی‌کنند. در مقابل، سناریوهایی نظیر خروج دائمی هوش مصنوعی از مهار انسانی یا خودکاری رفتارهای مخرب در مقیاس تمدنی، خطراتی هستند که نیازمند قوانین سخت‌گیرانه خواهند بود. این تفکیک اگرچه روی کاغذ منطقی به نظر می‌رسد، اما منتقدان می‌گویند مشخص کردن نقطه دقیق تبدیل یک نفوذ سایبری گسترده به یک بحران زیرساختی در جهان واقعی بسیار دشوار است.
تفاوت خطرات هوش مصنوعی با تهدیدهای فاجعه‌بار چیست؟
نگرش اوپن‌ای‌آی در حوزه قانون‌گذاری تفاوت محسوسی با رقبای مستقیم خود دارد. شرکتی مانند آنتروپیک با رویکرد ایمنی‌محور و تمرکز بر معماری‌های نظارت‌شده تلاش می‌کند خطاهای رفتاری مدل‌های خود را پیش از عرضه عمومی به حداقل برساند. در مقابل، رویکرد آلتمن بر پایه تنظیم‌گری سبک بنا شده است، رویکردی که آزادی عمل توسعه‌دهندگان را بر احتیاط مطلق ترجیح میدهد. طرفداران این شیوه باور دارند که عرضه زودهنگام محصولات به بازار به اصلاح سریع‌تر آن‌ها از طریق بازخورد کاربران کمک می‌کند. اما زمانی که مدل‌ها توانایی تعامل مستقیم با سیستم‌های مالی و ارتباطی را پیدا می‌کنند، خطاهای به ظاهر ساده می‌توانند خسارت‌های جبران‌ناپذیری بر جای بگذارند.
نگرانی درباره از دست رفتن مهار مدل‌های بزرگ زمانی تشدید میشود که پدیده‌هایی نظیر فرار هوش مصنوعی از محیط های آزمایشگاهی به ثبت می‌رسند و خطوط قرمز ایمنی را به چالش می‌کشند. تفکیک آلتمن میان خطرات روزمره و سناریوهای آخرالزمانی نادیده می‌گیرد که ابزارهای کلاهبرداری امروزی با چه سرعتی تکامل پیدا می‌کنند. فناوری شبیه‌سازی صدا و جعل تصویر اکنون این امکان را فراهم کرده است که مجرمان با دقت بالا افراد را فریب دهند. پذیرش این سطح از ناامنی به عنوان هزینه توسعه، مفهوم مسئولیت حقوقی شرکت‌های هوش مصنوعی را زیر سوال می‌برد.
گری مارکوس استاد بازنشسته دانشگاه نیویورک یکی از سرسخت‌ترین چهره‌هایی بود که به صحبت‌های آلتمن واکنش نشان داد. او معتقد است تقلیل دادن کلاهبرداری‌ها و شکاف‌های امنیتی به پیامدهای جانبی اجتناب‌ناپذیر، تلاشی آشکار برای فرار از پاسخگویی است. از دیدگاه مارکوس، شرکت‌های ارائه‌دهنده فناوری تمام عواید مالی و ارزش سهام ناشی از رشد سرویس‌های خود را تصاحب می‌کنند، اما هزینه‌های پاکسازی خرابکاری‌ها و مقابله با حملات سایبری را به کاربران و بودجه‌های عمومی تحمیل می‌کنند. این دوگانگی در سود و زیان باعث بی‌اعتمادی فزاینده نسبت به نیت واقعی غول‌های هوش مصنوعی میشود.
پیامدهای نظارت حداقلی بر امنیت کاربران و زیرساخت‌ها
بحث پیرامون قانون‌گذاری سبک در حالی مطرح میشود که زیرساخت‌های فیزیکی هوش مصنوعی با چالش‌های زیست‌محیطی جدی مواجه هستند. مراکز داده پردازش زبان‌های طبیعی به حجم عظیمی از برق و آب برای خنک‌سازی سرورها نیاز دارند. گسترش روزافزون مراکز پردازشی باعث شده موضوعاتی مانند تامین برق هوش مصنوعی با انرژی هسته‌ای به راهکاری برای پاسخ به مصرف سرسام‌آور انرژی و آب بدل شود. این هزینه‌های زیرساختی همراه با اعتراض‌های مالکیت فکری هنرمندان و نویسندگان، بار سنگینی بر دوش جامعه می‌گذارد و نشان میدهد که اثرات این فناوری تنها به فضای نرم‌افزاری محدود نمی‌ماند.
اگر سیاست‌گذاران در آمریکا و اروپا رویکرد سبک و سهل‌گیرانه آلتمن را بپذیرند، موج جدیدی از ابزارهای خودکار وارد بازار کار و زندگی روزمره خواهد شد. از یک سو سرعت عرضه قابلیت‌ها در نرم‌افزارهای پردازش داده، تولید محتوا و کدنویسی بیشتر میشود و بهره‌وری را بالا می‌برد. از سوی دیگر، توانایی نهادهای نظارتی برای راستی‌آزمایی عملکرد این سامانه‌ها کاهش می‌یابد. کاربران ناچار خواهند بود برای محافظت از داده‌های شخصی خود در برابر خطاهای سیستمی یا نفوذ بدافزارها مبالغ بیشتری برای ابزارهای امنیتی ثانویه بپردازند.
نکته قابل توجه این است که مرز میان کلاهبرداری محدود و یک خطر زیرساختی همواره مبهم باقی می‌ماند. اگر یک بدافزار مبتنی بر مدل‌های زبانی بتواند به شبکه بانکی نفوذ کند یا کد مخربی را در نرم‌افزارهای صنعتی ادغام سازد، آسیب ناشی از آن بسیار گسترده‌تر از یک سرقت مالی ساده خواهد بود. آلتمن ادعا می‌کند که مزایای این فناوری قطعا بیشتر از آسیب‌های آن است، اما در حال حاضر هیچ متریک مشخص یا پژوهش تجربی دقیقی برای اندازه‌گیری این نسبت سود به زیان وجود ندارد. ادعای پیشی گرفتن منافع بر خطرات در واقع یک فرض شخصی است و نباید به عنوان یک حقیقت آماری اثبات‌شده تلقی شود.
هزینه واقعی پیشرفت الگوریتم‌ها بر دوش جامعه
چرخه اقتصادی توسعه مدل‌ها نیز بر این تصمیم‌گیری‌ها سایه انداخته است. آموزش مدل‌های پایه نیازمند میلیاردها دلار سرمایه‌گذاری است و سرمایه‌گذاران برای بازگشت سرمایه خود به درآمدزایی سریع و جذب میلیون‌ها کاربر فشار می‌آورند. در چنین فضایی، پیاده‌سازی سازوکارهای امنیتی سخت‌گیرانه زمان عرضه محصول را به تعویق می‌اندازد و سرعت رشد را کند می‌کند. ترجیح دادن تنظیم‌گری سبک در حقیقت راهبردی برای حفظ برتری در رقابت سنگین میان شرکت‌های بزرگ است تا سودآوری اولیه تحت‌الشعاع موانع حقوقی قرار نگیرد.
از نگاه مصرف‌کننده نهایی، پرسش اساسی این است که چه کسی بهای خطاهای این سیستم‌ها را پرداخت خواهد کرد. شرکت‌های فناوری با استناد به متن توافق‌نامه‌های طولانی کاربری معمولا از هرگونه مسئولیت در قبال کلاهبرداری‌ها یا اطلاعات نادرست تولیدشده شانه خالی می‌کنند. بانک‌ها و شرکت‌های بیمه نیز به نوبه خود تلاش می‌کنند خسارت‌های سایبری را به عنوان قصور خود کاربر طبقه‌بندی کنند. این خلا حقوقی موجب میشود مصرف‌کننده در رویارویی با سامانه‌های پیچیده پردازش زبان احساس بی‌دفاعی کند و ناچار به پذیرش ناامنی‌های ناخواسته باشد.
آینده این فناوری نه در تالارهای کنفرانس بلکه در میزان تمایل جامعه به تحمل ریسک‌های روزمره مشخص خواهد شد. آیا نهادهای قانون‌گذار حاضر می‌شوند برای حفظ سرعت رشد اقتصاد دیجیتال از استانداردهای سخت‌گیرانه ایمنی چشم‌پوشی کنند؟ هرچه ابزارهای محاسباتی اختیارات بیشتری در کنترل حساب‌ها، تحلیل ارتباطات و خودکارسازی فرآیندها به دست آورند، خط تمایز میان آسیب‌های کوچک و بحران‌های امنیتی ناپدیدتر میشود و معلوم نیست جامعه تا کجا می‌تواند وقوع این اتفاقات ناگوار را هضم کند.
