چرا هوش مصنوعی در پزشکی هنوز به پزشکان نیاز دارد؟

ادغام ابزارهای هوشمند در چرخه درمان بیمارستان‌ها وارد مرحله تازه‌ای شده است. با این حال انتقال الگوریتم‌ها از محیط‌های آزمایشگاهی به درمانگاه‌های واقعی چالش‌های پیچیده‌ای ایجاد می‌کند. موسسه تحقیقات بینایی و چشم پزشکی ترجمانی پکن که با نام BERI شناخته می‌شود پلتفرمی تشخیصی با عنوان AI-TEC طراحی کرده است تا عملکرد این سیستم‌ها را سنجش کند. نتایج این پروژه که در گزارش منتشرشده در نیچر مدیسن بازتاب یافته نشان می‌دهد که پیاده‌سازی کاربردی هوش مصنوعی در پزشکی بیش از آنکه نیازمند مدل‌های ریاضی پیچیده باشد به بازطراحی فرآیندهای کاری و ساده‌سازی تعامل کادر درمان وابسته است.

در ساختار کلینیک AI-TEC تمام مراحل مراقبت از بیمار شامل پیش‌مشاوره، تحلیل اسکن‌های چشمی و پایش‌های بعدی تحت نظارت کامل چشم‌پزشکان صورت گرفت. هدف اصلی تیم پژوهشی ایجاد الگوریتمی جانبی نبود، بلکه ساختاری طراحی شد که ابزار هوشمند در مرکز گردش کار قرار گیرد. ارزیابی‌های بالینی ثابت کرد کارایی یک الگوریتم روی کاغذ با پذیرش واقعی آن در اتاق معاینه تفاوت زیادی دارد.

شکاف میان عملکرد آزمایشگاهی و بازدهی عملی در درمانگاه‌ها یکی از بزرگ‌ترین چالش‌های توسعه فناوری‌های درمانی است. وقتی یک ابزار پردازشی نتواند سرعت و نظم معاینه را حفظ کند، حتی با داشتن دقیق‌ترین محاسبات ریاضی نیز توسط کادر درمان کنار گذاشته می‌شود. به همین دلیل بررسی تجربه‌های عملی در کلینیک‌های واقعی مسیر آینده فناوری‌های تشخیصی را روشن می‌کند.

چرا کیفیت داده بر حجم داده در هوش مصنوعی در پزشکی ارجحیت دارد؟

در مراحل اولیه راه‌اندازی سیستم، دقت تشخیص برای بیماری‌های خطرناکی مانند گلوکوم و دژنراسیون ماکولا وابسته به سن پایین‌تر از حد انتظار بود. علت این ضعف تشخیصی به مجموعه داده اولیه آموزش مدل بازمی‌گشت. این مجموعه شامل حدود 27000 تصویر اسکن با کیفیت پایین و برچسب‌گذاری نامناسب بود. اتکا به حجم بالای داده‌های بی‌کیفیت نتوانست اتکاپذیری لازم را برای تصمیم‌گیری‌های حساس پزشکی فراهم کند.

تغییر اساسی زمانی رخ داد که متخصصان چشم 1426 تصویر اسکن بسیار باکیفیت را به‌دقت بررسی و برچسب‌گذاری کردند. پس از آموزش مجدد مدل با این داده‌های دقیق، شاخص آماری AUROC که توانایی سیستم را در تفکیک بیماران از افراد سالم اندازه می‌گیرد به بالای 0.93 رسید. این شاخص نشان می‌دهد که ابزار تشخیصی توانسته است عملکردی هم‌سطح با پیشرفته‌ترین سامانه‌های تحلیل تصویر ارائه دهد.

این دستاورد ثابت می‌کند در حوزه سلامت، صحت داده‌ها و نظارت مستقیم متخصصان ارزش بسیار بیشتری نسبت به جمع‌آوری داده‌های انبوه اما بدون دقت دارد. الگوریتم‌های درمانی برای رسیدن به دقت بالینی نیازمند ورودی‌های استاندارد هستند. شبیه به آنچه در بررسی محدودیت الگوریتم‌های سنجش سلامت دیده می‌شود، عدم دقت در داده‌های پایه می‌تواند منجر به خروجی‌های نامعتبر شود.

آموزش مدل‌های هوشمند با داده‌های پالایش‌شده نه تنها خطاها را کاهش می‌دهد، بلکه اعتماد کادر درمان را به خروجی سیستم جلب می‌کند. پزشکان زمانی به تحلیل‌های الگوریتم اتکا می‌کنند که مطمئن باشند داده‌های زیربنایی تحت استانداردهای سخت‌گیرانه پزشکی جمع‌آوری و برچسب‌گذاری شده‌اند.

نقش تجربه کاربری و کاهش بار کاری در پذیرش بالینی

یکی از یافته‌های کلیدی در ارزیابی کلینیک AI-TEC نوسان شدید در میزان استفاده پزشکان از این سیستم بود. در ماه پنجم فعالیت، از مجموع 1113 معاینه انجام‌شده، چشم‌پزشکان تنها در 41 مورد از ابزارهای خودکار استفاده کردند که معادل نرخ پایین 3.8 درصد بود. تحلیل علت این افت نشان داد رابط کاربری پیچیده، نیاز به کلیک‌های متوالی و الزام به ورود دستی داده‌ها باعث خستگی کادر درمان شده است.

پژوهشگران برای حل این چالش، رابط کاربری سیستم را بازطراحی کردند و ورودی‌های دستی را به حداقل ممکن رساندند. در ماه ششم و پس از اصلاح فرآیندها، میزان استفاده بالینی به 259 معاینه از مجموع 1126 مورد رسید که رشدی معادل 23 درصد را ثبت کرد. این تغییر نشان داد که حتی دقیق‌ترین سامانه‌ها در صورت نداشتن تجربه کاربری مناسب توسط پزشکان کنار گذاشته می‌شوند.

عامل دیگر در موفقیت این اصلاحات، دریافت بازخوردهای روزانه و سریع از کادر درمان بود. تیم توسعه فنی با بررسی مشکلات روزمره پزشکان در محل کلینیک، تغییرات لازم را اعمال کرد. بازخوردهای دیرهنگام که معمولا هفته‌ها بعد ارائه می‌شوند تاثیر عملی در بهبود فرآیندهای کاری ندارند و توسعه ابزار را با کندی مواجه می‌سازند.

تسهیل تعامل انسان و ماشین در محیط‌های بیمارستانی اهمیت دوچندانی دارد. کادر درمان به دلیل فشار کاری بالا فرصتی برای دست‌وپنجه نرم کردن با نرم‌افزارهای پیچیده ندارند. همان‌طور که توسعه فناوری‌های پایش سلامت نشان داده است، سادگی و هماهنگی با نیازهای واقعی کاربر، شرط اصلی ماندگاری ابزارها در حوزه واقعی است.

چالش‌های ساختاری و آینده سیستم‌های تشخیصی خودکار

شکاف دیگری که در عملکرد کلینیک شناسایی شد تفاوت بنیادی در شیوه تحلیل مسئله میان هوش مصنوعی و پزشک انسانی است. سیستم‌های خودکار رویکردی نتیجه‌محور دارند و تلاش می‌کنند بر اساس تصاویر اسکن بلافاصله وجود یا عدم وجود بیماری را مشخص کنند. در مقابل، پزشکان انسانی بر پایه‌ رویکردی نشانه‌محور عمل می‌کنند و علائم کلینیکی، سوابق بیمار و شرایط محیطی را در کنار اسکن‌ها ارزیابی می‌کنند.

تطبیق این دو دیدگاه نیازمند تغییر در نحوه طراحی سامانه‌ها است. ارزیابی یک سیستم درمانی نباید تنها محدود به شاخص‌های آزمایشگاهی باشد، بلکه باید میزان بهبود روند درمان و تسهیل کار پزشک سنجیده شود. عدم توجه به این موضوع می‌تواند باعث تولید هشدارهای غیرضروری و افزایش فشار کاری کادر درمان شود.

هزینه‌های نگهداری، بازآموزی مداوم الگوریتم‌ها و هماهنگی با تغییر تجهیزات تصویربرداری بخش دیگری از چالش‌های پنهان است. اگر سامانه‌های هوشمند نتوانند خود را با به‌روزرسانی تجهیزات کلینیک هماهنگ کنند، دچار افت عملکرد می‌شوند. افت کارایی مدل‌ها زمانی اتفاق می‌افتد که داده‌های ورودی جدید با داده‌های زمان آموزش تفاوت پیدا کنند.

مسئولیت حقوقی و اخلاقی تشخیص بیماری همچنان بر عهده پزشک انسانی باقی می‌ماند. به همین علت پزشکان تمایلی به استفاده از ابزارهایی ندارند که روند تصمیم‌گیری آن‌ها شفاف نیست. آینده سیستم‌های تشخیصی خادمانه به نحوه مدیریت این تغییرات و میزان همکاری میان توسعه‌دهندگان فنی و کادر درمانی بستگی دارد.