مواجهه با علائم ناگهانی مانند تپش قلب شدید، سردردهای مداوم یا اضطراب در ساعات پایانی شب معمولا افراد را دچار سردرگمی می‌کند. بسیاری از بیماران در چنین شرایطی به جای تعیین وقت از درمانگاه، گوشی خود را برمی‌دارند و علائم بیماری را در چت‌بات‌ها تایپ می‌کنند. ابزارهای مبتنی بر مدل‌های زبانی بزرگ مانند چت‌جی‌پتی، جمنای و کلود پاسخ‌هایی سریع، مرتب و به‌ظاهر مطمئن ارائه می‌دهند. همین پاسخ‌های آماده باعث شده نقش هوش مصنوعی در پزشکی به یکی از موضوعات مهم و در عین حال نگران‌کننده تبدیل شود. اتکای مستقیم به الگوریتم‌ها برای تشخیص بیماری، تغییر دوز داروها یا دریافت مشاوره روان‌شناسی می‌تواند پیامدهای نامطلوب و جبران‌ناپذیری برای سلامت افراد داشته باشد. مرز میان ابزار کمکی برای افزایش آگاهی عمومی و مرجع رسمی تشخیص پزشکی باید کاملا شفاف باشد.

در این مطلب می خوانید
  1. چرا هوش مصنوعی در پزشکی توانایی تشخیص بیماری را ندارد؟
  2. خطرات سلامت روان و مداخله دارویی با ابزارهای هوشمند
  3. راهکارهای استفاده ایمن و شناسایی علائم اورژانسی

بیماران اغلب فراموش می‌کنند که هوش مصنوعی فاقد تجربه حس‌کردن علائم فیزیکی است. زمانی که درباره یک نشانه بدنی از سامانه سوال می‌پرسید، سیستم تنها کلمات را پردازش می‌کند و قادر به سنجش فوریت‌های بالینی نیست. این عدم درک عمیق از شرایط واقعی بیمار، ضرورت آگاهی از ابعاد فنی و حقوقی این فناوری را دوچندان می‌کند.

چرا هوش مصنوعی در پزشکی توانایی تشخیص بیماری را ندارد؟

مدل‌های زبانی در ماهیت فنی خود سیستم‌های پیش‌بینی کلمات بعدی بر اساس محاسبات آماری هستند. این الگوریتم‌ها توانایی معاینه فیزیکی، شنیدن صدای قلب، مشاهده تغییرات پوستی یا ارزیابی چهره بیمار را ندارند. چت‌بات به پرونده پزشکی جامع دسترسی ندارد و تمام تحلیل آن بر اساس همان چند جمله‌ای شکل می‌گیرد که کاربر نوشته است. اگر فردی نشانه مهمی را از قلم بیندازد یا تغییرات بالینی خود را اشتباه توصیف کند، چت‌بات ابزاری برای کشف مستقل آن حقیقت ندارد. تغییرات ساختاری در ابزارها یا یکپارچه‌سازی در محیط دسکتاپ چت جی پی تی نیز این واقعیت فنی را تغییر نمی‌دهد که مدل‌های زبانی متون را تحلیل می‌کنند نه وضعیت واقعی بدن انسان را.

پدیده توهم اطلاعاتی چالش دیگری است که اعتبار پاسخ‌های پزشکی را هدف قرار می‌دهد. توهم زمانی رخ می‌دهد که مدل زبانی داده‌ای نادرست یا دوز دارویی اشتباه را با همان لحن قاطع و اعتمادبه‌نفس همیشگی بیان می‌کند. این لحن مطمئن ناشی از نحوه آموزش مدل است و هیچ ارتباطی با صحت علمی ادعا ندارد. پژوهشی که در سال ۱۴۰۲ در آمریکا انجام شد نشان داد ارزیابان پاسخ‌های چت‌بات به پرسش‌های عمومی کاربران را کامل‌تر و همدلانه‌تر از پاسخ‌های پزشکان ارزیابی کردند. با این حال، آن مطالعه صرفا سوالات عمومی و غیرحساس را سنجیده بود و شامل فرایند پیچیده تشخیص بیماری، معاینه بالینی یا تجویز دارویی نمی‌شد.

تحقیق دیگری که توسط دانشگاه آکسفورد در سال ۱۴۰۴ منتشر شد، شکاف میان توانایی سنجیده شده در آزمون‌ها و عملکرد واقعی کاربران را فاش کرد. در این پژوهش، داوطلبان در سناریوهای فرضی تلاش کردند با کمک چت‌بات یا جستجوی اینترنتی بیماری خود را تشخیص دهند و درباره مراجعه به اورژانس یا پزشک عمومی تصمیم بگیرند. نتایج نشان داد کمک گرفتن از چت‌بات در سناریوهای فرضی عملکرد بهتری نسبت به جستجوی سنتی اینترنتی ایجاد نمی‌کند. این در حالی بود که مدل‌های هوش مصنوعی در آزمون‌های مستقیم و بدون واسطه کاربر، دقت بالایی در پاسخ به سوالات تئوری نشان داده بودند.

تحلیل‌گران دانشگاه آکسفورد علت این ناکامی را در نحوه تعامل کاربر با سیستم یا همان شکاف تعاملی جستجو می‌کنند. بیماران معمولا تاریخچه کامل دارویی یا علائم حیاتی را در متن ورودی قید نمی‌کنند و هنگام مواجهه با پاسخ‌های چندگزینه‌ای چت‌بات، قادر به تشخیص گزینه صحیح نیستند. یک پزشک متخصص با پرسش‌های هدفمند، خطاهای کلامی بیمار را اصلاح کرده و نشانه‌های پنهان را بیرون می‌کشد، قابلیتی که در الگوریتم‌های گفتاری وجود ندارد.

چرا هوش مصنوعی در پزشکی توانایی تشخیص بیماری را ندارد؟

خطرات سلامت روان و مداخله دارویی با ابزارهای هوشمند

برخورد چت‌بات‌ها با چالش‌های روان‌شناختی و تنظیم دوزهای دارویی حساسیت بسیار بالایی دارد. مدل‌های زبانی طوری برنامه‌ریزی شده‌اند که لحنی همراه و تاییدکننده داشته باشند. اگر کاربری نگران بپرسد که آیا مصرف یک داروی خاص عوارض شدیدی دارد، ممکن است سیستم پاسخ خود را در همان جهت شکل دهد و ناخواسته اضطراب فرد را تشدید کند. تغییر، شروع یا قطع دوز داروهای مربوط به قلب، دیابت، داروهای ضدانعقاد و اعصاب و روان بدون دستور مستقیم پزشک معالج خطرناک است. الگوریتم از تداخلات دارویی پیچیده و جواب آزمایش‌های بالینی جدید بیمار هیچ آگاهی مستقیمی ندارد.

در حوزه سلامت روان نیز گفت‌وگو با هوش مصنوعی هرگز معادل روان‌درمانی نیست. یک روان‌درمانگر آموزش‌دیده الگوهای رفتاری بیمار را در طول جلسات متعدد شناختی ارزیابی می‌کند و مسئولیت اخلاقی و حقوقی درمان را بر عهده می‌گیرد. چت‌بات‌ها حافظه ساختاریافته درمانی ندارند و پاسخ‌های آن‌ها بر اساس احتمالات زبانی تولید می‌شود. به همین دلیل، ایالت ایلینوی آمریکا در سال ۱۴۰۳ قانونی تصویب کرد که ارائه خدمات روان‌درمانی و تصمیم‌گیری درمانی توسط هوش مصنوعی را به طور کامل ممنوع کرد. این اقدام قانونی نشان‌دهنده لزوم ایجاد مرزهای حقوقی محکم برای حفاظت از سلامت بیماران است.

سازمان جهانی بهداشت نیز در راهنمای سال ۱۴۰۳ خود درباره مخاطرات هوش مصنوعی هشدار داده است. این سازمان به خطرات ناشی از انتشار اطلاعات نادرست، سوگیری‌های الگوریتمی و عدم حفاظت از داده‌های بیماران اشاره می‌کند. متون و علائم بالینی که کاربران در سامانه وارد می‌کنند روی سرورهای شرکتی ذخیره می‌شوند و ممکن است برای آموزش مدل‌های آینده به کار روند. حفظ محرمانگی اطلاعات پزشکی یکی از ارکان اصلی اخلاق پزشکی است که در بسترهای عمومی تضمین نمی‌شود.

راهکارهای استفاده ایمن و شناسایی علائم اورژانسی

هوش مصنوعی در پزشکی خطرات سلامت روان و مداخله دارویی با ابزارهای هوشمند

هوش مصنوعی در صورت استفاده درست می‌تواند به عنوان ابزاری کمکی برای افزایش آگاهی پزشکی به کار رود. این سامانه‌ها برای درک اصطلاحات پیچیده آزمایشگاهی یا صورت‌بندی سوالات پیش از ویزیت پزشک مفید هستند. برای نمونه، اگر می‌خواهید بدانید فریتین در برگه آزمایش چه معنایی دارد یا دیابت چگونه بر کلیه‌ها اثر می‌گذارد، چت‌بات می‌تواند توضیحات پایه‌ای مفیدی ارائه دهد. اما تعیین دوز قرص آهن یا ریشه‌یابی سردردهای ناگهانی باید به پزشک متخصص واگذار شود.

برای طرح سوالات مفهومی، باید اطلاعات ورودی را تا حد امکان دقیق بنویسید. سن، جنسیت، علائم اصلی، مدت زمان بروز نشانه و سابقه بیماری را ذکر کنید و از مدل بخواهید در صورت وجود علائم خطرناک، فوریت مراجعه به مراکز درمانی را تذکر دهد. با این حال، هنگام مواجهه با نشانه‌های حاد بالینی نباید زمان را برای تایپ سوال تلف کرد.

علائمی مانند درد یا فشار شدیدی در قفسه سینه، سردرد ناگهانی و غیرقابل تحمل، تنگی نفس شدید، ضعف یا بی‌حسی در یک طرف بدن و اختلال ناگهانی در گفتار از نشانه‌های حیاتی فوریت‌های پزشکی هستند. در صورت مشاهده این علائم باید بلافاصله با اورژانس ۱۱۵ تماس گرفت. همچنین در صورت بروز بحران‌های روحی و افکار آسیب به خود، ارتباط با اورژانس ۱۱۵ یا صدای مشاور بهزیستی با شماره ۱۴۸۰ گام اول و حیاتی است.

در شرایطی که سوالات غیرفورتی مطرح است اما پاسخ‌های عمومی هوش مصنوعی اطمینان کافی ایجاد نمی‌کند، مراجعه به سامانه‌های معتبر مشاوره آنلاین اهمیت پیدا می‌کند. در همین راستا، دریافت خدمات ویزیت آنلاین پزشکی امکان گفت‌وگوی مستقیم با پزشکان دارای پروانه و روان‌شناسان متخصص را فراهم می‌سازد. پزشک عمومی در این ارتباط تلفنی یا متنی می‌تواند سوابق را بررسی کرده، آزمایش لازم را تجویز کند یا بیمار را به متخصص مربوطه ارجاع دهد.

هوش مصنوعی شاید بتواند در آینده لایه‌ای اولیه برای غربالگری اطلاعات پزشکی ایجاد کند، اما تصمیم‌گیری نهایی درمان همواره نیازمند دانش بالینی، معاینه حضوری و مسئولیت‌پذیری انسانی خواهد بود. چگونگی تنظیم قوانین نظارتی برای کنترل سوگیری‌های الگوریتمی و حفظ حریم خصوصی بیماران، چالش مهمی است که نظام‌های سلامت در سراسر جهان با آن روبرو هستند.