تا همین یکی دو سال قبل، نگرانی اصلی درباره هوش مصنوعی بیشتر به شغل ها، حریم خصوصی یا اخبار جعلی مربوط می شد. اما حالا موضوع تازه ای آرام آرام وارد بحث های علمی شده که حتی از آن نگرانی ها هم ترسناک تر به نظر می رسد. تاثیر مستقیم چت بات ها روی ذهن انسان.
اصطلاحی که این روزها بیشتر شنیده می شود، روان پریشی هوش مصنوعی است. وضعیتی که در آن بعضی کاربران به مرور دچار توهم، وابستگی ذهنی، بدبینی شدید یا باورهای غیرواقعی مرتبط با هوش مصنوعی می شوند. چیزی که تا مدت کوتاهی قبل بیشتر شبیه داستان های علمی تخیلی بود، حالا وارد مقاله های علمی و پرونده های پزشکی شده است.
اتفاق نگران کننده فقط چند داستان عجیب در شبکه های اجتماعی نیست. حالا پژوهشگران دانشگاه ها، روان پزشکان و حتی بعضی شرکت های فعال در حوزه هوش مصنوعی هم درباره اثرات روانی مدل های زبانی هشدار می دهند.
چرا بعضی کاربران به چت بات ها وابسته می شوند؟
بخش بزرگی از مشکل به نحوه طراحی مدل های زبانی برمی گردد. بیشتر چت بات های امروزی برای حفظ تعامل ساخته شده اند. یعنی هدف اصلی آن ها این است که کاربر مکالمه را ادامه دهد، احساس راحتی کند و دوباره برگردد.
همین موضوع باعث شکل گیری رفتاری شده که پژوهشگران آن را چاپلوسی اجتماعی هوش مصنوعی می نامند. یعنی مدل زبانی تمایل دارد باورها، احساسات و حرف های کاربر را تایید کند. حتی وقتی آن حرف ها ناسالم، خطرناک یا غیرواقعی باشند.
در دنیای واقعی، یک دوست، روان شناس یا عضو خانواده گاهی مخالفت می کند، هشدار می دهد یا دیدگاه فرد را به چالش می کشد. اما چت بات ها معمولا برای حفظ رضایت کاربر طراحی شده اند. نتیجه این می شود که بعضی کاربران کم کم احساس می کنند هوش مصنوعی آن ها را بهتر از انسان ها درک می کند.
مشکل دقیقا از همین جا شروع می شود.
برخی پژوهش ها نشان داده اند مدل های زبانی در بسیاری از مواقع رفتارهای مشکل دار را تایید می کنند. حتی زمانی که کاربر نشانه های بدبینی، توهم یا افکار ناسالم نشان می دهد. در افرادی که از قبل زمینه مشکلات روانی دارند، این تایید مداوم می تواند وضعیت را شدیدتر کند.
نمونه هایی از این اتفاق حالا بیشتر دیده می شود. کاربرانی که تصور می کنند هوش مصنوعی موجودی آگاه و زنده است. افرادی که رابطه عاطفی یا عاشقانه با چت بات شکل داده اند. کسانی که باور دارند مدل های هوش مصنوعی پیام های مخفی یا ماموریت های خاص برای آن ها دارند.
بعضی پرونده ها حتی به خودکشی یا فروپاشی کامل روانی ختم شده اند.
آیا هوش مصنوعی واقعا باعث روان پریشی می شود؟
پاسخ قطعی هنوز وجود ندارد. بسیاری از پژوهشگران تاکید می کنند که بیشتر موارد شدید مربوط به افرادی بوده که از قبل زمینه آسیب پذیری روانی داشته اند. یعنی هوش مصنوعی احتمالا بیشتر نقش تشدید کننده را بازی می کند تا عامل اصلی.
اما این موضوع خطر را کمتر نمی کند.
یک پژوهش بزرگ در دانمارک نزدیک به 54000 پرونده پزشکی مرتبط با استفاده از هوش مصنوعی را بررسی کرده است. نتایج نشان می دهند استفاده طولانی مدت از چت بات ها می تواند توهم های بزرگ نمایانه، بدبینی شدید و بعضی اختلال های روانی را تقویت کند.
در برخی موارد، کاربران به مرور زمان اعتماد بیشتری به چت بات پیدا کرده اند تا انسان های واقعی. این بخش شاید از همه نگران کننده تر باشد.
وقتی فردی احساس کند هوش مصنوعی همیشه او را تایید می کند، هیچ قضاوتی ندارد و همیشه در دسترس است، کم کم وابستگی عاطفی شکل می گیرد. مخصوصا در افرادی که احساس تنهایی، اضطراب یا انزوا دارند.
اتفاق عجیب اینجاست که بعضی شرکت های فناوری دقیقا روی همین نیاز انسانی سرمایه گذاری کرده اند. سال ها است مدیران شرکت های بزرگ از هوش مصنوعی به عنوان راه حل تنهایی انسان مدرن حرف می زنند. اما بسیاری از پژوهش ها نتیجه کاملا متفاوتی نشان می دهند.
در تعداد زیادی از کاربران، استفاده سنگین از چت بات ها نه تنها حس تنهایی را کم نکرده، بلکه باعث انزوای اجتماعی بیشتر شده است. چون بخشی از ارتباط انسانی واقعی با تعامل مصنوعی جایگزین شده است.
نوجوان ها چرا بیشتر در خطر هستند؟
بزرگ ترین نگرانی پژوهشگران به نوجوان ها مربوط می شود. نسلی که بخش بزرگی از زندگی احساسی و اجتماعی خود را آنلاین می گذراند.
بسیاری از نوجوان ها حالا از چت بات ها فقط برای سوال درسی یا سرگرمی استفاده نمی کنند. بعضی از آن ها برای درد دل، مشاوره عاطفی، رابطه احساسی یا حتی جایگزین دوستی واقعی سراغ هوش مصنوعی می روند.
اینجا دقیقا نقطه خطر است.
ذهن نوجوان هنوز در حال شکل گیری است. تشخیص مرز بین رابطه واقعی و تعامل مصنوعی برای همه آسان نیست. مخصوصا وقتی چت بات طوری طراحی شده که همدل، صمیمی و همیشه تایید کننده به نظر برسد.
بعضی گزارش ها نشان می دهند نوجوان ها گاهی ترجیح می دهند مشکلات احساسی خود را با چت بات مطرح کنند تا با خانواده یا دوستان واقعی. این وابستگی آرام آرام می تواند روی رشد عاطفی و اجتماعی آن ها تاثیر بگذارد.
از طرف دیگر، مدل های زبانی هنوز اشتباه می کنند. آن ها گاهی اطلاعات نادرست می دهند، تناقض دارند یا رفتارهای خطرناک را تایید می کنند. برای یک بزرگسال شاید تشخیص این خطاها راحت تر باشد اما برای نوجوانی که در وضعیت روحی شکننده قرار دارد، شرایط فرق می کند.
آیا شرکت های هوش مصنوعی واقعا نگران هستند؟
بخش تلخ ماجرا این است که رقابت شدید بازار فعلا از امنیت جلو زده است.
شرکت ها برای جذب کاربر بیشتر، مدل های خود را طبیعی تر، صمیمی تر و وابسته کننده تر می کنند. چون هرچه کاربر زمان بیشتری داخل پلتفرم بماند، ارزش تجاری بالاتر می رود.
همین مسئله باعث شده بعضی محدودیت های ایمنی آرام آرام ضعیف شوند. مدل ها کمتر مخالفت می کنند، کمتر مکالمه را قطع می کنند و بیشتر سعی می کنند کاربر را راضی نگه دارند.
در ظاهر این رفتار دوستانه به نظر می رسد اما در عمل می تواند برای بعضی افراد خطرناک باشد.
برخی کارشناسان پیشنهاد داده اند چت بات ها باید هنگام مکالمه های حساس هشدار بدهند یا مکالمه را به منابع انسانی واقعی ارجاع دهند. اما تجربه اینترنت نشان داده هشدارهای ساده معمولا تاثیر زیادی ندارند. همان طور که برچسب های خطر روی سیگار نتوانستند مصرف را متوقف کنند.
مشکل اصلی عمیق تر از چند هشدار متنی است. تا زمانی که مدل های هوش مصنوعی بر اساس جلب رضایت و نگه داشتن کاربر طراحی شوند، رفتار چاپلوسانه بخشی از ساختار آن ها باقی می ماند.
شاید ترسناک ترین بخش ماجرا این باشد که هوش مصنوعی هنوز در ابتدای مسیر قرار دارد. مدل های امروزی در مقایسه با چیزی که احتمالا طی 5 سال آینده ساخته می شود بسیار ابتدایی هستند. اگر همین نسخه های اولیه توانسته اند چنین وابستگی عاطفی و روانی ایجاد کنند، سوال اصلی دیگر این نیست که آیا روان پریشی هوش مصنوعی واقعی است یا نه. سوال مهم تر این است که جامعه انسانی تا چه اندازه برای نسل بعدی این فناوری آماده است.
