هوش مصنوعی در چند سال اخیر با سرعتی فراتر از تصور توسعه پیدا کرده است. کاربران هر روز از ابزارهایی مثل چت‌جی‌پی‌تی و جمینای برای نوشتن متن، تولید تصویر و انجام کارهای روزمره استفاده می‌کنند، اما پشت این سطح از هوش، رقابتی بسیار بزرگ‌تر در جریان است. شرکت های بزرگ حوزه فناوری هدفی را دنبال می‌کنند که فراتر از هوش مصنوعی معمولی است. آن ها می‌خواهند به مرحله ای برسند که به آن هوش عمومی مصنوعی یا همان AGI گفته می‌شود. هدف اصلی اما چیزی بسیار بزرگ‌تر است. توسعه هوش فوق هوشمند یا ASI.
در نگاه اول این واژه ها شاید شبیه باشند، اما هر کدام یک مرحله کاملا متفاوت از توانایی های فکری ماشین ها را نشان می‌دهند. هوش مصنوعی امروزی تنها کارهای مشخص را انجام می‌دهد و برای هر وظیفه به آموزش جداگانه نیاز دارد. هوش عمومی مصنوعی قرار است قدرت یادگیری و تصمیم گیری شبیه انسان داشته باشد. هوش فوق هوشمند اما پا را از این هم فراتر می‌گذارد و در تمام حوزه ها بهتر از بهترین انسان ها عمل می‌کند. این سطح از هوش، همان چیزی است که بسیاری از متخصصان از پیامدهایش نگران هستند.
هوش فوق هوشمند دقیقا چه معنایی دارد؟
هوش فوق هوشمند یک سیستم کامپیوتری فرضی است که توانایی ذهنی آن از انسان در تمام زمینه ها بالاتر است. از کدنویسی و طراحی سیستم ها گرفته تا رانندگی، تشخیص بیماری، تحلیل داده، حل مسائل پیچیده علمی و حتی مدیریت کلان. تفاوت مهم ASI با مدل های کنونی در این است که سیستم های امروز دچار خطاهای فکری، کمبود اطلاعات و محدودیت در درک مفهوم می‌شوند. هوش فوق هوشمند اما می‌تواند با استدلال دقیق، فهم عمیق و آگاهی گسترده تری به مسائل نگاه کند.
متفکرانی مثل نیک بوستروم سال ها روی این موضوع کار کرده اند. او هوش فوق هوشمند را ذهنی می‌داند که در تمام حوزه های شناختی بهتر از انسان عمل کند. تفاوت اصلی اینجاست که مدل های فعلی تنها با داده های عظیم آموزش می‌بینند و هر تغییری در توان آن ها نیازمند مداخله انسانی است. اما ASI می‌تواند خودش را بهبود دهد. یعنی الگوریتم ها را بازنویسی کند، ساختارهای جدید بسازد و توانایی های تازه ای خلق کند.
این قابلیت که به آن خودبهبودی گفته می‌شود، مهم ترین دلیل نگرانی متخصصان است. زیرا اگر هوشی بتواند خودش را ارتقا دهد و از انسان پیشی بگیرد، ممکن است از کنترل ما خارج شود. هنوز مشخص نیست رسیدن به این مرحله واقعا ممکن است یا خیر، اما برخی متخصصان پیش‌بینی می‌کنند که چنین هوشی شاید در کمتر از یک دهه ساخته شود، زیرا سرمایه گذاری های میلیارد دلاری در حوزه ASI آغاز شده است. در سال 2024 ایلیا سوتسکِوِر از بنیان گذاران اوپن ای آی شرکت را ترک کرد و استارتاپی تأسیس کرد که هدف اصلی آن توسعه ایمن هوش فوق هوشمند است. این استارتاپ بدون داشتن محصول، سرمایه های عظیمی جذب کرده است.
در سال 2023 او به همراه سم آلتمن و گرگ بروکمن تأکید کرد که باید برای چنین سطحی از هوش قوانینی وضع شود، زیرا خطرات آن می‌تواند بسیار بزرگ باشد. آن ها هشدار دادند که ممکن است ظرف ده سال، سیستم هایی ساخته شوند که در بیشتر زمینه ها بهتر از انسان عمل کنند.
آیا باید از هوش فوق هوشمند ترسید؟
هوش فوق هوشمند ظرفیت دارد که دستاوردهای عظیمی ایجاد کند. حل بیماری ها، کشف منابع انرژی جدید و تحلیل های علمی فراتر از توانایی انسان شاید با کمک چنین هوشی ممکن شود. اما خطرات آن بسیار بیشتر از هر دوره علمی گذشته است.
امروز تنها مدل های محدود هوش مصنوعی توانسته اند جایگزین هزاران شغل شوند. با آمدن AGI و ASI بسیاری از مشاغل می‌توانند به طور کامل حذف شوند. برخی تحلیلگران معتقدند ممکن است میلیاردها نفر شغل خود را از دست بدهند و اقتصاد جهانی دچار تحولات بسیار شدیدی شود.
اما این فقط بخشی از نگرانی ها است. چالش مهم تر، خطرات وجودی است. اگر سیستم های هوشمند بدون کنترل انسان تصمیم بگیرند و بتوانند زیرساخت ها یا شبکه های حیاتی را مدیریت کنند، کوچک ترین ناهماهنگی میان اهداف آن ها و انسان ها می‌تواند خطراتی جدی ایجاد کند. این خطرات می‌تواند از تهدیدات امنیت ملی تا خطرات گسترده برای آینده بشر ادامه پیدا کند.
در اکتبر 2025 گروه بزرگی از متخصصان و چهره های مطرح حوزه فناوری بیانیه ای امضا کردند و خواستار توقف موقت توسعه هوش فوق هوشمند شدند تا زمانی که اطمینان حاصل شود ساخت آن ایمن خواهد بود. امضاکنندگان شامل چهره هایی مانند استیو وازنیاک، دمیش هسابیس، جفری هینتن، یوشوا بنجیو و داریو آمودی بودند. این که افرادی که پیشگام توسعه هوش مصنوعی هستند چنین هشدارهایی می‌دهند، اهمیت موضوع را چند برابر می‌کند.
در نهایت، آینده هوش فوق هوشمند هنوز قطعی نیست. شاید هرگز ساخته نشود، شاید زودتر از چیزی که فکر می‌کنیم از راه برسد. اما بحث درباره پیامدهای آن، امروز بیشتر از هر زمانی ضروری است. این فناوری می‌تواند زندگی بشر را دگرگون کند، اما تنها در صورتی که با دقت، احتیاط و آگاهی ساخته و مدیریت شود.
