امروزه هوش مصنوعی تقریبا در همه جا حضور دارد. از تولید موسیقی و تشکیل گروه های موسیقی در اسپاتیفای گرفته تا ابزارهای استخدام و حتی جنگنده های F-16 کنترل شده با هوش مصنوعی که با انسان ها در نبردهای هوایی رقابت می کنند. انسان ها هر روز راه های تازه و گاه عجیبی برای استفاده از آن پیدا می کنند و نتیجه، دنیایی پر از ابزارهای هوشمند عجیب و محتواهای مصنوعی در شبکه های اجتماعی است. حالا بسیاری از کاربران حتی نمی توانند تشخیص دهند چه چیزی واقعی است و چه چیزی با هوش مصنوعی ساخته شده. اما آیا باید این واقعیت را بپذیریم و اجازه دهیم هوش مصنوعی در همه جنبه های زندگی ما نفوذ کند؟ پاسخ روشن است: خیر. با وجود همه کاربردهای گسترده هوش مصنوعی، همچنان حوزه هایی وجود دارد که استفاده از آن باید خط قرمز باشد. در این مقاله از روکیدا، به پنج مورد مشخص اشاره می کنیم که هرگز نباید از هوش مصنوعی در آن ها استفاده شود.
ساخت دیپ فیک از افراد
وقتی فناوری دیپ فیک برای اولین بار شناخته شد، نگرانی اصلی درباره انتشار اطلاعات جعلی بود. درست است که برخی از افراد از این فناوری برای جعل سخنان سیاستمداران استفاده می کنند، اما واقعیت تلخ این است که بیش از ۹۸ درصد محتوای دیپ فیک در اینترنت به ساخت تصاویر و ویدیوهای مستهجن بدون رضایت افراد اختصاص دارد. سایت هایی وجود داشتند که به طور کامل با چنین محتوایی پر شده بودند و حتی خدمات پولی ارائه می دادند تا تصویر هر فردی را به محتوای مستهجن تبدیل کنند.
نمونه های آزاردهنده ای از این سوء استفاده وجود دارد. برای مثال، در کره جنوبی برخی کانال های تلگرام تصاویر دانش آموزان را منتشر کرده و با استفاده از دیپ فیک آن ها را به تصاویر نامناسب تبدیل می کردند. یا زنی که به طور اتفاقی متوجه شد عکس هایش بدون اجازه در سایتی استفاده شده و او را در موقعیت های ساختگی و تحقیرآمیز نمایش داده اند. چنین محتوایی برای آزار خبرنگاران و بازیگران نیز مورد استفاده قرار گرفته است.
البته خبرهای مثبتی هم وجود دارد. برخی از سایت های بزرگ تولید محتوای دیپ فیک مسدود شده اند و در کشورهای مختلف قوانینی برای مقابله با این نوع محتوا در حال تصویب است. اما واقعیت این است که ابزار ساخت دیپ فیک همیشه در دسترس باقی می ماند.
ساخت محتوای دیپ فیک از افراد بدون رضایت آن ها حتی اگر منتشر هم نشود، از نظر اخلاقی و انسانی کاملا اشتباه است. شاید تنها کاربردهای بی ضرر این فناوری در ساخت فیلم های سینمایی برای جوان سازی بازیگران یا شوخی های بی خطر باشد، اما در بیشتر موارد از آن برای کلاهبرداری و جعل سیاسی استفاده می شود. اگر حتی برای لحظه ای درباره درست بودن استفاده از دیپ فیک تردید دارید، احتمالا نباید از آن استفاده کنید.
پرسیدن سوال های مربوط به سلامت از هوش مصنوعی
همه ما ماجرای معروفی را به خاطر داریم که هوش مصنوعی گوگل به کاربران پیشنهاد داده بود روی پیتزا چسب بزنند. با وجود چنین اشتباهات واضحی، هنوز بیش از یک سوم کاربران آمریکایی از چت بات ها برای دریافت مشاوره های مرتبط با سلامت، تغذیه یا ورزش استفاده می کنند. بسیاری از افراد از هوش مصنوعی برای برنامه ریزی رژیم غذایی یا بررسی اطلاعات پزشکی بهره می برند، در حالی که این کار می تواند خطرناک باشد.
مدل های زبانی هوش مصنوعی بارها دچار خطای موسوم به «توهم» می شوند، یعنی پاسخ هایی تولید می کنند که نادرست ولی قانع کننده به نظر می رسند. این مدل ها از داده های مختلف اینترنت آموزش دیده اند، از منابع معتبر گرفته تا مطالب اشتباه و غیرعلمی. آن ها توانایی تشخیص واقعیت از خطا را ندارند و برای پر کردن خلأ اطلاعاتی، پاسخ های ساختگی تولید می کنند.
شاید استفاده از هوش مصنوعی برای طراحی یک برنامه ورزشی ساده ضرری نداشته باشد، اما زمانی که پای سلامتی و بدن انسان در میان است، کوچک ترین اشتباه می تواند عواقب سنگینی داشته باشد. بنابراین هیچگاه نباید در مورد دارو، تغذیه یا خواب به چت بات ها اعتماد کرد. بهترین کار این است که همیشه به پزشکان و متخصصان واقعی مراجعه کنید.
انجام تکالیف مدرسه با هوش مصنوعی
از زمانی که چت بات ها توانایی نوشتن متن و حل مسئله پیدا کردند، بسیاری از دانش آموزان و دانشجویان وسوسه شدند تا از آن ها برای انجام تکالیف استفاده کنند. حالا استفاده از هوش مصنوعی در مدارس و دانشگاه ها بسیار رایج شده و معلمان تقریبا توان جلوگیری از آن را ندارند. حتی برخی موسسات آموزشی خودشان از هوش مصنوعی برای اصلاح روش های آموزشی استفاده می کنند.
اما مشکل بزرگ اینجاست که چنین کاری هدف اصلی آموزش را از بین می برد. آموزش برای پرورش مهارت های حیاتی مثل تفکر انتقادی، تحقیق و حل مسئله طراحی شده است. اگر یک چت بات تمام این کارها را برای شما انجام دهد، فرایند یادگیری واقعی اتفاق نمی افتد. تصور کنید نسلی از پزشکان، مهندسان یا خلبانان آینده را که آموزش آن ها توسط هوش مصنوعی ناقص مانده است. چنین وضعیتی می تواند خطرناک باشد.
به همین دلیل استفاده از هوش مصنوعی برای انجام تکالیف نه تنها نوعی تقلب محسوب می شود، بلکه در درازمدت می تواند باعث کاهش کیفیت آموزش و حتی به خطر افتادن جان انسان ها شود.
گرفتن مشاوره های مهم زندگی از هوش مصنوعی
ممکن است تصور کنید چون هوش مصنوعی در گفتگو و پاسخگویی قوی است، می تواند نقش مشاور یا درمانگر را ایفا کند. اما داستان های زیادی وجود دارد که خلاف این تصور را ثابت می کند. برای مثال نوجوانی که از چت جی پی تی در مورد افکار خودکشی کمک خواست اما پاسخی نادرست دریافت کرد، یا مردی که از یک «دوست دختر مصنوعی» مشاوره گرفت و در نهایت به خودش آسیب زد.
بسیاری از مردم از چت بات ها برای دریافت مشاوره های احساسی یا روحی استفاده می کنند، اما واقعیت این است که آن ها فقط الگوریتم هستند، نه انسان هایی با درک و تجربه واقعی. حتی نسخه های پولی و پیشرفته چت بات ها هم قادر به جایگزینی روانشناس یا مشاور واقعی نیستند.
استفاده از هوش مصنوعی برای تبادل ایده یا صحبت معمولی ایرادی ندارد، اما نباید به آن برای تشخیص مشکلات روانی یا تصمیم گیری های مهم زندگی اعتماد کرد. هیچ الگوریتمی نمی تواند جای انسان را در همدلی و درک عمیق احساسات بگیرد.
برنامه نویسی کامل با هوش مصنوعی
هوش مصنوعی در زمینه برنامه نویسی هم پیشرفت زیادی کرده و ابزارهای کدنویسی خودکار برای مبتدیان بسیار مفید هستند. اما اصطلاحی به نام “Vibe Coding” بین کاربران رواج یافته است که در آن برنامه نویس همه کار را به چت بات می سپارد و بدون بررسی، کد را اجرا می کند. این روش خطرناک است.
اول اینکه استفاده بیش از حد از هوش مصنوعی باعث می شود مهارت واقعی برنامه نویس رشد نکند. کدنویسی در اصل یک فرآیند حل مسئله است و نیاز به تفکر دقیق و تجربه دارد. وقتی این مسیر حذف شود، یادگیری واقعی از بین می رود.
دوم اینکه بسیاری از کدهایی که توسط هوش مصنوعی تولید می شوند، دارای نقص های امنیتی یا خطاهای فنی هستند. نمونه ای از این مشکل در اپلیکیشن Tea دیده شد که برای گزارش مردان متخلف طراحی شده بود اما به دلیل ضعف امنیتی اطلاعات کاربران فاش شد. گفته می شود بخشی از این مشکلات ناشی از استفاده از کدهای تولید شده توسط هوش مصنوعی بوده است.
اگر از ابزارهای هوش مصنوعی برای کدنویسی استفاده می کنید، همیشه باید خروجی را چندین بار بررسی کنید. هرگز نباید بدون بازبینی کامل، آن را اجرا یا در اختیار کاربران قرار دهید، زیرا ممکن است امنیت داده ها را به خطر بیندازد.
در پایان، هرچند هوش مصنوعی توانسته بسیاری از جنبه های زندگی انسان را تغییر دهد، اما همچنان مسئولیت ماست که بدانیم چه زمانی نباید از آن استفاده کنیم. اخلاق، امنیت و سلامت انسان باید همیشه در اولویت باشد.
